🎥🎞️📝:「編碼偏見」| AI來自數據,而數據來自歷史

閱讀時間約 4 分鐘
來源:Stanford daily.com
「編碼偏見」(Coded Bias是2020年的Netflix紀錄片,紀錄片講述工程師所一手打造的程式在不同的人種身上竟然產生了人為才有的偏見,甚至更擴大至求職、居住、購物......生活的各種層面。近年來Netflix製做了不少關於科技對於社會、民主、人權、個資的影響(如「智能社會:進退兩難」(The Social Dilemma「個資風暴:劍橋分析事件」(The Great Hack…)

這一部紀錄片主要聚在數據上,當我們需要透過大量數據訓練人工智慧時,紀錄片的受訪人同時也是《大數據的傲慢與偏見》(Weapons of Math Destruction的作者凱西.歐尼爾(Cathy O’Neil)提出了一個對於所有程式設計師的質疑:
我們用了甚麼數據訓練機器?這些數據如何取得?更重要的是,是誰決定要用這些數據的?

不敏感的人工智慧?


故事始於麻省理工的研究人員喬伊(Joy Buolamwini)想要打一面能夠識別人臉的鏡子,但是喬伊不論怎麼測試都無法辨識她的臉,奇怪的是喬伊的白人朋友站到鏡子前時,機器一下子就識別出來了;橋伊試了許久,最後當她戴了一個純白面具時,鏡子上終於捕捉到了喬伊的面部資料。

活生生的人臉竟然比不上一個冰冷的面具?
來源:Gender Shades/MIT Media Lab
喬伊開啟了研究(Gender Shades),探討這背後出了甚麼問題,竟然發現程式背後隱藏對於有色人種的偏誤;男人的識別度比女人高,淺色皮膚識別度比深色皮膚高。喬伊擴大了照片參數,以至少1200張的照片來進行測試,在膚色分級為VI(實驗最深的膚色分類)的情況下錯誤率甚至高達近乎五成的 46.8%;在這樣如此之高的錯誤率下,幾乎可以說是用擲硬幣的方式在識別人臉。而這就是紀錄片要工程師甚至大眾去思考的,如果我們無差別地餵給機器數據,那麼偏見從何而來?
喬伊與當時測試用的白面具(AP Photo/Steven Senne)
人臉識別(face recognition / facial-recognition)是近年在科技與人權之間爭議最多的一個話題,這項技術應該要用在哪、可以深入到甚麼層面以及人民是否能夠拒絕科技執法的人臉資料採樣。讓我們來設想一個實驗

如果今天我想要開發一個人臉識別的機器,而我希望可以篩選出富豪,那麼你會投入甚麼樣的數據給機器呢?

如果你的揀選條件只有男性、西裝、油頭、白人;那麼,你便是落入了編碼的偏見。當給定一個中立主題(富豪,關於這點可能有人會提中國的面相學,暫且先不討論面相學對於福相的分析),我們所給予的數據乃是基於整個歷史文化脈絡下對於富豪的符號印象;數據是中立的,而數據也一直存在於生活中,但是被揀選、分類的數據將會變成資訊,我們主動賦予數據意義。

透過這個思想實驗能讓我們去思考的是,這些印象是如何形成的?我們用甚麼樣的方式瞭這個世界,而世界也會以同樣的方式回應我們。如果能夠用各種角度去參透同一個概念,那麼我們就不會輕易落入世界就是這樣的現成偏誤;倘若程式開發人員不曾想過這些問題,那我們便是將這樣的刻板印象有意無意地流傳下去。
來源:Cyfuture.com
事實上,2016年麻省理工媒體實驗室開發出了一套人工智慧能夠「情感計算」(Affection Computing,而這套人工智慧能夠依照觀測到的人類表情數據解讀出當下受試者的情緒反應;精準度甚至連平時難以注意到的微表情(micro expression)都能監測到,而這些微表情往往是人們容易忽略的。這套人工智慧能夠在人類無法識別自己的面部肌肉微動下,透過內部的數據分析,依舊能得出當前使用者的面部情緒反應,等於比你自己還要了解自己。
科技一再地證明它們的能力早已超越人類,精確度已經不是問題;真正的問題在於,有沒有足夠的數據可以訓練機器?而這些數據是不偏倚任何一方,各種族群、人種的面部資訊都齊全的狀況下,人工智慧的確有辦法辨識相應的結果。
真正有偏見的不是機器,而是人。

喬伊在麻省理工媒體實驗室所做的Gender Shades研究案
英國反政府監控組織「老大哥監視計畫」(BIG BROTHER WATCH)
人類教壞人工智慧?那些年被網民帶壞的機器人們
為什麼會看到廣告
avatar-img
85會員
205內容數
從物理到電機工程再轉到資訊傳播,最後落腳在社會學。衣櫃拿來當書櫃擺的人。我常在媒介生態學、傳播理論、社會學、心理學、哲學游移;期盼有天無產階級可以推倒資本主義的高牆的兼職家教。
留言0
查看全部
avatar-img
發表第一個留言支持創作者!
社會人的哲學沉思 的其他內容
一個人只有用心靈才能看的真切,重要的東西用肉眼是看不見的。 It is only with heart that one can see rightly; what is essential is invisible to the eye. — 「小王子」(The Little Prince)
某次阿嬤在吃飯時回頭看正在攝影的我 那天夜裡我沒睡好,老實說,即便我想睡也睡不好。凌晨兩點、四點我被阿嬤叫醒,阿嬤緩慢地拄著拐杖走到我的房間呼喚我,兩次都是跟我說肚子餓了想要吃稀飯(阿嬤每天的早餐都是吃稀飯),通常我都會問阿嬤「晚餐沒有吃嗎?」不過這麼問通常得不到正式的回答,因為每次阿嬤都會說沒吃晚
在真/假資訊之間,我們的大腦是如何將資訊「快篩」?
我們很難跳進別人的腦袋,實際去「體驗」別人的世界;就如同我們很難跳進失智症患者的腦袋,去經歷記憶無法形成有多麼的痛苦。
雖然勒龐在《烏合之眾》一書不斷描述群體是智商低下的弱智(他在書中還真的這麼說!)但是,勒龐指出群眾的影響不僅是負面現象,而且還可能產生積極影響。而這種積極影響......
在獨處時我們容易順從自我,在團體中則容易順從他人;但只有在團體中仍保有自我的人才值得被關注。 —叔本華(Arthur Schopenhauer)
一個人只有用心靈才能看的真切,重要的東西用肉眼是看不見的。 It is only with heart that one can see rightly; what is essential is invisible to the eye. — 「小王子」(The Little Prince)
某次阿嬤在吃飯時回頭看正在攝影的我 那天夜裡我沒睡好,老實說,即便我想睡也睡不好。凌晨兩點、四點我被阿嬤叫醒,阿嬤緩慢地拄著拐杖走到我的房間呼喚我,兩次都是跟我說肚子餓了想要吃稀飯(阿嬤每天的早餐都是吃稀飯),通常我都會問阿嬤「晚餐沒有吃嗎?」不過這麼問通常得不到正式的回答,因為每次阿嬤都會說沒吃晚
在真/假資訊之間,我們的大腦是如何將資訊「快篩」?
我們很難跳進別人的腦袋,實際去「體驗」別人的世界;就如同我們很難跳進失智症患者的腦袋,去經歷記憶無法形成有多麼的痛苦。
雖然勒龐在《烏合之眾》一書不斷描述群體是智商低下的弱智(他在書中還真的這麼說!)但是,勒龐指出群眾的影響不僅是負面現象,而且還可能產生積極影響。而這種積極影響......
在獨處時我們容易順從自我,在團體中則容易順從他人;但只有在團體中仍保有自我的人才值得被關注。 —叔本華(Arthur Schopenhauer)
你可能也想看
Google News 追蹤
Thumbnail
這個秋,Chill 嗨嗨!穿搭美美去賞楓,裝備款款去露營⋯⋯你的秋天怎麼過?秋日 To Do List 等你分享! 秋季全站徵文,我們準備了五個創作主題,參賽還有機會獲得「火烤兩用鍋」,一起來看看如何參加吧~
Thumbnail
11/20日NVDA即將公布最新一期的財報, 今天Sell Side的分析師, 開始調高目標價, 市場的股價也開始反應, 未來一週NVDA將重新回到美股市場的焦點, 今天我們要分析NVDA Sell Side怎麼看待這次NVDA的財報預測, 以及實際上Buy Side的倉位及操作, 從
Thumbnail
Hi 大家好,我是Ethan😊 相近大家都知道保濕是皮膚保養中最基本,也是最重要的一步。無論是在畫室裡長時間對著畫布,還是在旅途中面對各種氣候變化,保持皮膚的水分平衡對我來說至關重要。保濕化妝水不僅能迅速為皮膚補水,還能提升後續保養品的吸收效率。 曾經,我的保養程序簡單到只包括清潔和隨意上乳液
Thumbnail
數碼戲胞是2002年成立的知名線上遊戲公司,代理了多款遊戲如神之領域、天翼之鍊、彈水阿給等。1972年4月17日由於財務問題董事長捲款潛逃而倒閉。不過,後繼的遊戲公司繼續營運了一些經典遊戲,很多美好回憶都是這些遊戲帶給玩家的。
周末去台北上了一堂神奇的課《編碼你的命運》 可以說是高濃度腦洞大開的課程。 透過量子驗證玄學,"白話"解釋身心靈、佛學、玄學...等資訊,從高維角度降維打擊。理解如駭客任務的背後規則,進而編碼自己的人生。 在身心靈打滾這麼多年,常常很疑惑:吸引力法則、顯化法則為什麼無效? 零極限的原理是
Thumbnail
編碼你的命運:數字奧秘與神秘學的共振 數字,被認為是一種語言,可以被電腦理解,也可以用來解釋大自然的許多秘密。 連結網址: https://sites.google.com/view/botstw-09/ #編碼你的命運 #編碼希望學院 #兩天編碼你的命運
用biped(兩腳動物)和pedestrian crossing(斑馬線)、level crossing(平交道)聯想在一起,讓自己英文學習變輕鬆。
Thumbnail
信念,主要是由你所吸收的各種資訊所形成,我們某方面覺得一直表現不好或是害怕、恐懼的事情,很大程度地都可能是因為一些固有信念造成的。《刷新未來》(Hit Refresh)的微軟現任領導人薩蒂亞·納德拉(Satya Nadella),也就是他在不變的價值中融入新的信念,成功帶領微軟成為擁抱雲端的公司。
Thumbnail
2022 年第四季度,NFLX 報告的收入為 $7.85B,同比增長 1.9%,符合預期(或在外匯 中性基礎上穩定增長 10%)。 管理層稱,收入增長是由平均付費會員費用 (ARM) 增長 4% 和增加 770 萬會員推動的。這遠遠超過了公司自己預測的 440 萬。每位會員的平均收入同比下降 2%,
Thumbnail
在聖誕節前夕的布魯明黛百貨公司,命運安排架上最後一雙黑色手套成為了男主角Jonathan(John Paul Cusack飾)和女主角Sara(Kate Beckinsaleg飾)相遇的起始點...
Thumbnail
藏在程式碼行間的偏見 Joy 後來比對了各大科技公司的演算法如:IBM, Microsoft, Face++ 和 Google,結果發現這些演算法辨認男性臉孔的準確率高於女性臉孔,而辨認淺膚色臉孔的準確率也大於深膚色臉孔。 而會產生這個結果的重點就在於片中 Joy 所說的:「資料主宰命運」。 結語
Thumbnail
談沒什麼人在意的 H.264 與 H.265 的專利保護費問題,以及新一代的 AV1 編碼。
Thumbnail
歡迎來到ELYSIUM極樂世界公司,在這邊你可以選擇用任何一種方式離開世界,一切由你決定。 - 「死亡」是許多人避諱談論的話題,而在電影《意外製造公司》中,導演 麥克馮戴姆(Mike van Diem) 用鏡頭引導觀眾思考,究竟是什麼契機會讓人選擇“主動”離開世界?
Thumbnail
這個秋,Chill 嗨嗨!穿搭美美去賞楓,裝備款款去露營⋯⋯你的秋天怎麼過?秋日 To Do List 等你分享! 秋季全站徵文,我們準備了五個創作主題,參賽還有機會獲得「火烤兩用鍋」,一起來看看如何參加吧~
Thumbnail
11/20日NVDA即將公布最新一期的財報, 今天Sell Side的分析師, 開始調高目標價, 市場的股價也開始反應, 未來一週NVDA將重新回到美股市場的焦點, 今天我們要分析NVDA Sell Side怎麼看待這次NVDA的財報預測, 以及實際上Buy Side的倉位及操作, 從
Thumbnail
Hi 大家好,我是Ethan😊 相近大家都知道保濕是皮膚保養中最基本,也是最重要的一步。無論是在畫室裡長時間對著畫布,還是在旅途中面對各種氣候變化,保持皮膚的水分平衡對我來說至關重要。保濕化妝水不僅能迅速為皮膚補水,還能提升後續保養品的吸收效率。 曾經,我的保養程序簡單到只包括清潔和隨意上乳液
Thumbnail
數碼戲胞是2002年成立的知名線上遊戲公司,代理了多款遊戲如神之領域、天翼之鍊、彈水阿給等。1972年4月17日由於財務問題董事長捲款潛逃而倒閉。不過,後繼的遊戲公司繼續營運了一些經典遊戲,很多美好回憶都是這些遊戲帶給玩家的。
周末去台北上了一堂神奇的課《編碼你的命運》 可以說是高濃度腦洞大開的課程。 透過量子驗證玄學,"白話"解釋身心靈、佛學、玄學...等資訊,從高維角度降維打擊。理解如駭客任務的背後規則,進而編碼自己的人生。 在身心靈打滾這麼多年,常常很疑惑:吸引力法則、顯化法則為什麼無效? 零極限的原理是
Thumbnail
編碼你的命運:數字奧秘與神秘學的共振 數字,被認為是一種語言,可以被電腦理解,也可以用來解釋大自然的許多秘密。 連結網址: https://sites.google.com/view/botstw-09/ #編碼你的命運 #編碼希望學院 #兩天編碼你的命運
用biped(兩腳動物)和pedestrian crossing(斑馬線)、level crossing(平交道)聯想在一起,讓自己英文學習變輕鬆。
Thumbnail
信念,主要是由你所吸收的各種資訊所形成,我們某方面覺得一直表現不好或是害怕、恐懼的事情,很大程度地都可能是因為一些固有信念造成的。《刷新未來》(Hit Refresh)的微軟現任領導人薩蒂亞·納德拉(Satya Nadella),也就是他在不變的價值中融入新的信念,成功帶領微軟成為擁抱雲端的公司。
Thumbnail
2022 年第四季度,NFLX 報告的收入為 $7.85B,同比增長 1.9%,符合預期(或在外匯 中性基礎上穩定增長 10%)。 管理層稱,收入增長是由平均付費會員費用 (ARM) 增長 4% 和增加 770 萬會員推動的。這遠遠超過了公司自己預測的 440 萬。每位會員的平均收入同比下降 2%,
Thumbnail
在聖誕節前夕的布魯明黛百貨公司,命運安排架上最後一雙黑色手套成為了男主角Jonathan(John Paul Cusack飾)和女主角Sara(Kate Beckinsaleg飾)相遇的起始點...
Thumbnail
藏在程式碼行間的偏見 Joy 後來比對了各大科技公司的演算法如:IBM, Microsoft, Face++ 和 Google,結果發現這些演算法辨認男性臉孔的準確率高於女性臉孔,而辨認淺膚色臉孔的準確率也大於深膚色臉孔。 而會產生這個結果的重點就在於片中 Joy 所說的:「資料主宰命運」。 結語
Thumbnail
談沒什麼人在意的 H.264 與 H.265 的專利保護費問題,以及新一代的 AV1 編碼。
Thumbnail
歡迎來到ELYSIUM極樂世界公司,在這邊你可以選擇用任何一種方式離開世界,一切由你決定。 - 「死亡」是許多人避諱談論的話題,而在電影《意外製造公司》中,導演 麥克馮戴姆(Mike van Diem) 用鏡頭引導觀眾思考,究竟是什麼契機會讓人選擇“主動”離開世界?