《編碼偏見》人工智能的種族歧視

更新於 發佈於 閱讀時間約 3 分鐘
演算法不平等?資料到底以什麼參考當作依據
作品原名:Coded Bias(2020)
科技走入人類的生活,從二十世紀中後電腦的普及也短短不到百年,需要一整棟房的龐大電腦也以成了手掌大小的智慧手機,而更多數據機的演算使我們創造的電子產品更加聰明,符合這世界的樣貌。但科技始終來於人性,有沒有走偏的那一天?《編碼偏見》是一部明確提出關於人工智能運用在現今人類社會不完善,甚至濫用或不當使用就會造成嚴重侵犯人權災難的紀錄電影。
麻省理工的研究員喬.布蘭維尼利用人工智能的技術製作了一面能識別臉部的鏡子,可是鏡子無法辨識她的面孔,但當她戴上白面具就可以被辨識,這時她才注意到引用的智能編碼辨識人臉有著很大問題,它無法準確辨識黑人女性的臉孔。
人工智慧一直是當今人類科技還未到達的里程碑,但在過去的電影或文學創作中我們都可以看見人類對於自己製造電腦生命的想像,動作片《魔鬼終結者》觀眾可以看出對於人工智能與人類之間羈絆,但同時《機械公敵》中也看見對於外來科技濫用與取代人類的恐懼。
人工智能雖然目前還是在學步階段,並未如娛樂產業裡敘述的如此強大,但這些小小一筆其實也間接直接的改變我們的社會架構,例如工廠機械取代人力、手機指紋識別、人臉識別系統等,一點一滴摻入我們的生活。
《編碼偏見》是一部講述人工智能演算法如今在人類社會運用狀況上的不足,還有可能會涉及濫用侵犯人權的狀況。麻省理工的電腦與數學演算研究員喬.布蘭維尼就發現,智能編碼在判別數據庫時,辨別人面孔有所不足,尤其是在辨別黑人女性這塊。
這有可能是因為人工智能學習與採用的資料庫中,絕大多數讓電腦學習的都是辨別白人男性居多,這也於英美的科技發展史過去時代鮮少有色人種的研究員介入有關,可能從根本歷史資料上智能編碼就不多元。
電影裡以各項因為人工智能編碼而產生的問題和困境,來敘述它怎麼影響人的生活和侵犯人民的權利和竊取資料。內容大方向分為三點:一、編碼因人為之故而產生歧視。二、在資料庫上不足導致於人工智能作出錯誤解讀。三、使用人工智能有竊取個人資料與監視違反人權的疑慮。
在紀錄片中就有警察部門採取亞馬遜人臉辨識系統但因為資料不完整,頻頻傳出誤判,且也有民眾不滿警方隨意用科技產品竊取資料與監控他人的侵權行為。
電影中對於侵權方面舉了中國人臉識別系統「天眼」為例子,並且因是近期對於中國使用科技監控人民的作法有詳細敘述。更訪談了一位中國女孩,得到她不在乎被政府拿取資料,並認為這樣的監控與社會信用的制度很好,可以幫助她辨別一個人的好壞。
這也是《編碼偏見》所想探討的一個問題,編碼出來經過運算的資料真的是正確的嗎?因為許多人會相信科學數據,卻並不能透徹這些數據是怎麼出現的。這也是當今社會的問題,我們依賴數據編成的結果,但卻同時沒有數據怎樣編碼的概念。
而在數據不足和侵犯人權兩者無疑是兩面刃,說穿如今電腦人工智能的強大來自於電腦本身多筆資料的快速運算與分類,棋藝的人工智能就是如此,它並不能算是思考而下棋,而是透過大量的棋譜來運算最佳的勝利路線。
這也產生一個問題就是電腦編碼的行程完全依據研究與設計人員的餵養,而人類本身就不是一個能平等看待所有事物的個體,因此如掌握在部分人手裡編成,必定會有無法突破與弊端的盲點,如同臉書一直推薦你不感興趣的廣告一樣。
對於《編碼偏見》紀錄片仍有些歐美觀眾覺得是過度危言聳聽,而另外一派則是表示電影本身的立場有所偏頗,應該也要聽見編成這些大公司數據的程序員他們的看法。
但編碼歧視是一個事實,這個歧視不是電腦主觀而是它的數據中學習本身就有誤。就像是過去歷史往往是勝利者和殖民方的觀點,當編碼中的資料缺乏多元的學習數據,人工智能就必定產生偏見這問題現在依舊無解,但增添資料就得面對人權問題的難題,這也是民主社會不同於極權社會另一項挑戰。
為什麼會看到廣告
avatar-img
688會員
778內容數
設計、文字工作者 待過中國、曾在日本情色產業、韓國遊戲公司、台灣電視台、夜店工作
留言0
查看全部
avatar-img
發表第一個留言支持創作者!
陸坡 (LUPO)的沙龍 的其他內容
紀錄片《飛虎傳奇》是由台灣公共電視推出的一部四集關於二戰時中國空軍「飛虎隊」的英雄紀錄影片,裡面以在美國不受重視的空軍將軍陳納德受到中華民國第一夫人宋美齡之邀來中國訓練空軍來抵禦日軍的空襲,而當陳納德來到中國時,發現並不是只有訓練空軍這樣簡單,陳納德展開一場屬於自己的二戰硬仗。
多年經典血腥暴力遊戲《真人快打》又稱《魔宮帝國》系列,改編電影重啟。故事敘述古神雷電為了防止地球被外界巫師尚宗給支配,找尋有神龍胎記的地球戰士,綜合格鬥選手科爾楊被選中但卻渾然不知,直到遇上派遣來追殺他的急凍忍者「絕對零度」對他家人展開致命攻擊……
原創動畫《SK8 the Infinity》是以虛構的礦山極限滑板坡賽為主軸,敘述一場只在夜間舉行的極限競速滑板賽,從加拿大轉學過來日本的藍加認識在滑板店喜歡玩滑板的曆,在一次送貨失誤,兩人捲入了這場滑板賽之中,藍加因此被神秘滑板手給盯上……
美國綜藝《結婚房貸二選一》將這個麵包與愛情搬上節目,請「結婚或購屋」猶豫不定的情侶來抉擇,並由房仲和婚禮策畫員為他們的預算和需求量身訂做婚禮和找尋到適合的房屋。在兩全難其美的狀況下,伴侶們陷入難題,該花錢辦妥終身大事?或是付出家的頭期款就看兩位專家的職場真功夫。
改編美國暢銷散文關於衣福的小說而成的紀錄電影《舊衣往事》是一部講述每個不同人種、地區、生活和遭遇的服裝故事,一件衣服就是一段回憶,有時只是隨便套上的遭難,而也有可能因為一件衣服而改變了一趟人生,甚至成為永恆難忘開啟那扇回憶大門的記憶點。
小說改編動畫作品《2.43清陰高中男子排球社》講述天才舉球員灰島公誓因為前所學校發生了事故,而轉學到福井鄉下老家就讀,與鄉下童年玩伴黑羽祐仁一起打排球加入社團與賽事之間,之中兩人和隊員間發生的大小事。有著過去陰影的天才、散漫的童年玩伴、還有名不見經傳的弱小排球社,是否真能如願踏上球場贏得勝利?
紀錄片《飛虎傳奇》是由台灣公共電視推出的一部四集關於二戰時中國空軍「飛虎隊」的英雄紀錄影片,裡面以在美國不受重視的空軍將軍陳納德受到中華民國第一夫人宋美齡之邀來中國訓練空軍來抵禦日軍的空襲,而當陳納德來到中國時,發現並不是只有訓練空軍這樣簡單,陳納德展開一場屬於自己的二戰硬仗。
多年經典血腥暴力遊戲《真人快打》又稱《魔宮帝國》系列,改編電影重啟。故事敘述古神雷電為了防止地球被外界巫師尚宗給支配,找尋有神龍胎記的地球戰士,綜合格鬥選手科爾楊被選中但卻渾然不知,直到遇上派遣來追殺他的急凍忍者「絕對零度」對他家人展開致命攻擊……
原創動畫《SK8 the Infinity》是以虛構的礦山極限滑板坡賽為主軸,敘述一場只在夜間舉行的極限競速滑板賽,從加拿大轉學過來日本的藍加認識在滑板店喜歡玩滑板的曆,在一次送貨失誤,兩人捲入了這場滑板賽之中,藍加因此被神秘滑板手給盯上……
美國綜藝《結婚房貸二選一》將這個麵包與愛情搬上節目,請「結婚或購屋」猶豫不定的情侶來抉擇,並由房仲和婚禮策畫員為他們的預算和需求量身訂做婚禮和找尋到適合的房屋。在兩全難其美的狀況下,伴侶們陷入難題,該花錢辦妥終身大事?或是付出家的頭期款就看兩位專家的職場真功夫。
改編美國暢銷散文關於衣福的小說而成的紀錄電影《舊衣往事》是一部講述每個不同人種、地區、生活和遭遇的服裝故事,一件衣服就是一段回憶,有時只是隨便套上的遭難,而也有可能因為一件衣服而改變了一趟人生,甚至成為永恆難忘開啟那扇回憶大門的記憶點。
小說改編動畫作品《2.43清陰高中男子排球社》講述天才舉球員灰島公誓因為前所學校發生了事故,而轉學到福井鄉下老家就讀,與鄉下童年玩伴黑羽祐仁一起打排球加入社團與賽事之間,之中兩人和隊員間發生的大小事。有著過去陰影的天才、散漫的童年玩伴、還有名不見經傳的弱小排球社,是否真能如願踏上球場贏得勝利?
你可能也想看
Google News 追蹤
Thumbnail
隨著理財資訊的普及,越來越多台灣人不再將資產侷限於台股,而是將視野拓展到國際市場。特別是美國市場,其豐富的理財選擇,讓不少人開始思考將資金配置於海外市場的可能性。 然而,要參與美國市場並不只是盲目跟隨標的這麼簡單,而是需要策略和方式,尤其對新手而言,除了選股以外還會遇到語言、開戶流程、Ap
Thumbnail
嘿,大家新年快樂~ 新年大家都在做什麼呢? 跨年夜的我趕工製作某個外包設計案,在工作告一段落時趕上倒數。 然後和兩個小孩過了一個忙亂的元旦。在深夜時刻,看到朋友傳來的解籤網站,興致勃勃熬夜體驗了一下,覺得非常好玩,或許有人玩過了,但還是想寫上來分享紀錄一下~
Thumbnail
人工智能:革命性技術的崛起與挑戰 1. 什麼是人工智能? 人工智能(AI)是指由人類創造的機器或系統,能夠模仿人類智能,執行通常需要人類智能才能完成的任務。這包括學習、問題解決、語言理解、視覺感知等能力。AI系統可以處理大量數據,識別模式,並根據這些信息做出決策或預測。 2.
Thumbnail
AI的世界充滿了創新和潛力,涵蓋了許多領域,包括但不限於機器學習,自然語言處理、電腦視覺和機器人技術。AI對人類社會的影響是複雜而多層面的,既帶來了巨大的機遇,也提出了新的挑戰。社會需要在技術發展和倫理規範之間找到平衡,確保AI技術的應用能夠真正造福人類。
Thumbnail
最近家裡安裝了電子鎖,由於我的指紋老是無法辨識成功,所以最後選擇有「人臉辨識」功能的產品。在這篇文章中,將介紹人臉辨識技術的基本原理和安全性,以及如何避免應用軟體漏洞的風險。
Thumbnail
人工智慧系統正在慢慢影響我們的生活,並在不同的產業和產品中得到應用。目前使用的系統大多是基於狹義人工智慧。狹義人工智慧與通用人工智慧有很大不同。 狹義人工智慧的創建是為了專注於特定任務,一個例子就是聊天機器人。
Thumbnail
新聞中,一位國際人力資源專家得意地介紹AI已經應用在各大公司面試的實際例子,卻讓我覺得毛骨悚然...
Thumbnail
我認為在近未來,AI反而會加速人與人之間的不平等,加上首富馬斯克(Elon Musk)的腦機介面公司Neurolink,已經開始試著將晶片植入大腦,未來應該會比較類似《電馭叛客2077》Cyberpunk的世界,企業的權力將大到可與政府抗衡,人與人之間的地位會天差地遠。
Thumbnail
這篇文章探討了人工智能對未來的影響,提到了人工智能不斷進步的速度,以及預測了未來幾年人工智能的發展。同時也提到了人工智能對人類的影響,包括了代替工程師寫CODE以及瞭解和療癒人類情緒。
Thumbnail
今天說的是一種稱為「自動化偏誤」(automation bias)的認知偏誤。人們常會不加思索地認為由自動化決策系統,例如現在常用的ChatGPT,會有程式語言賦予的理性與客觀,比較能避免人類常見的各種偏見。
Thumbnail
AI,全稱人工智慧,是指讓電腦或機器具備類似人類的智慧和能力的科學和技術。AI 可以幫助我們解決各種問題,提高效率,創造價值,甚至改變世界。但是,你知道 AI 是如何運作的嗎?你知道 AI 的歷史和未來嗎?你知道 AI 的優點和挑戰嗎?在這篇文章中,我將帶你一起認識 AI 的基本概念和發展。
Thumbnail
★看似客觀中立的機器運算,可能在學習人類提供的資料後,再複製社會偏見與歧視,形成「自動不平等」!
Thumbnail
隨著理財資訊的普及,越來越多台灣人不再將資產侷限於台股,而是將視野拓展到國際市場。特別是美國市場,其豐富的理財選擇,讓不少人開始思考將資金配置於海外市場的可能性。 然而,要參與美國市場並不只是盲目跟隨標的這麼簡單,而是需要策略和方式,尤其對新手而言,除了選股以外還會遇到語言、開戶流程、Ap
Thumbnail
嘿,大家新年快樂~ 新年大家都在做什麼呢? 跨年夜的我趕工製作某個外包設計案,在工作告一段落時趕上倒數。 然後和兩個小孩過了一個忙亂的元旦。在深夜時刻,看到朋友傳來的解籤網站,興致勃勃熬夜體驗了一下,覺得非常好玩,或許有人玩過了,但還是想寫上來分享紀錄一下~
Thumbnail
人工智能:革命性技術的崛起與挑戰 1. 什麼是人工智能? 人工智能(AI)是指由人類創造的機器或系統,能夠模仿人類智能,執行通常需要人類智能才能完成的任務。這包括學習、問題解決、語言理解、視覺感知等能力。AI系統可以處理大量數據,識別模式,並根據這些信息做出決策或預測。 2.
Thumbnail
AI的世界充滿了創新和潛力,涵蓋了許多領域,包括但不限於機器學習,自然語言處理、電腦視覺和機器人技術。AI對人類社會的影響是複雜而多層面的,既帶來了巨大的機遇,也提出了新的挑戰。社會需要在技術發展和倫理規範之間找到平衡,確保AI技術的應用能夠真正造福人類。
Thumbnail
最近家裡安裝了電子鎖,由於我的指紋老是無法辨識成功,所以最後選擇有「人臉辨識」功能的產品。在這篇文章中,將介紹人臉辨識技術的基本原理和安全性,以及如何避免應用軟體漏洞的風險。
Thumbnail
人工智慧系統正在慢慢影響我們的生活,並在不同的產業和產品中得到應用。目前使用的系統大多是基於狹義人工智慧。狹義人工智慧與通用人工智慧有很大不同。 狹義人工智慧的創建是為了專注於特定任務,一個例子就是聊天機器人。
Thumbnail
新聞中,一位國際人力資源專家得意地介紹AI已經應用在各大公司面試的實際例子,卻讓我覺得毛骨悚然...
Thumbnail
我認為在近未來,AI反而會加速人與人之間的不平等,加上首富馬斯克(Elon Musk)的腦機介面公司Neurolink,已經開始試著將晶片植入大腦,未來應該會比較類似《電馭叛客2077》Cyberpunk的世界,企業的權力將大到可與政府抗衡,人與人之間的地位會天差地遠。
Thumbnail
這篇文章探討了人工智能對未來的影響,提到了人工智能不斷進步的速度,以及預測了未來幾年人工智能的發展。同時也提到了人工智能對人類的影響,包括了代替工程師寫CODE以及瞭解和療癒人類情緒。
Thumbnail
今天說的是一種稱為「自動化偏誤」(automation bias)的認知偏誤。人們常會不加思索地認為由自動化決策系統,例如現在常用的ChatGPT,會有程式語言賦予的理性與客觀,比較能避免人類常見的各種偏見。
Thumbnail
AI,全稱人工智慧,是指讓電腦或機器具備類似人類的智慧和能力的科學和技術。AI 可以幫助我們解決各種問題,提高效率,創造價值,甚至改變世界。但是,你知道 AI 是如何運作的嗎?你知道 AI 的歷史和未來嗎?你知道 AI 的優點和挑戰嗎?在這篇文章中,我將帶你一起認識 AI 的基本概念和發展。
Thumbnail
★看似客觀中立的機器運算,可能在學習人類提供的資料後,再複製社會偏見與歧視,形成「自動不平等」!