【紀錄片】《編碼偏見》演算法，掌握準則的審判者
閱讀時間約 3 分鐘
《編碼偏見》(Coded Bias) 是一部在 2020 年 11 月於 Netflix 上線的紀錄片。故事從麻省理工學院媒體實驗室博士候選人 Joy Buolamwini 在研究過程中希望能打造出一面鏡子，她稱之為「勵志之鏡」的互動裝置開始談起，她希望能經由電腦視覺技術追蹤自己的臉部特徵，並藉此讓鏡子投射出影像。但不知怎地，Joy 卻始終無法如願，於是她也就開始探究這背後的原因。
藏在程式碼行間的偏見
Joy 後來比對了各大科技公司的演算法如：IBM, Microsoft, Face++ 和 Google，結果發現這些演算法辨認男性臉孔的準確率高於女性臉孔，而辨認淺膚色臉孔的準確率也大於深膚色臉孔。
而會產生這個結果的重點就在於片中 Joy 所說的：「資料主宰命運」。
當訓練者所使用的訓練資料出現偏差時，自然也會得到偏差的結果。人工智慧之所以能夠運作是基於資料本身，而資料則反映著歷史；因此所有的一切就像是被刻在演算法裡的基因，讓應運而生的科技產物好比是一面鏡子，將人類的過去一併給映照出來。
掌握過去者即掌握未來，掌握現在者即掌握過去
數學科學家 Cathy O’Neil 提到現在世界上有多種演算法，但它們全都被吹捧為客觀事實，她也表示擁有程式碼的人，將程式碼應用在別人身上，這本身就是一種權力不對等的關係。
另外她也在 Netflix 上線的紀錄片《智能社會：進退兩難》中談及當下社群媒體利用演算法手握大量使用者資料的隱憂，她也以此主題撰寫著作，並於 2016 年出版書籍，中文版《大數據的傲慢與偏見：一個「圈內數學家」對演算法霸權的警告與揭發》則於隔年 2017 年出版，也有推出電子書版本。
成長快速的演算法
如今有幾十億人在智慧型手機上為科技公司創造的產品提供大量可收集的資料，這時就能將其餵養給演算法，進而建造出一套資料模型來達到精準分析，更進一步地還能藉此影響人類行為。然而這點也正是機器學習可能造成的問題之一。
而現今全世界共有九間科技公司主導人工智慧技術，分別是 Meta (Facebook), Apple, Amazon, IBM, Google, Microsoft, 阿里巴巴, 百度與騰訊，而在這當中有六家是美國企業，其餘三家則是中國企業，因此大概就能藉由現況猜測人工智慧的發展將會循著兩條截然不同的方向前進。
結語
有關於本片的詳細內容與後續發展，則歡迎你點擊連結，閱讀發佈在我部落格上的文章：【Netflix 紀錄片】《編碼偏見》科技世界準則的主宰者：演算法，繼續深入探索背後秘辛；也推薦你點擊本部紀錄片的 Netflix 連結繼續觀看，繼續跟著片中人物的腳步，調查其他藏於演算法中的偏見，並找尋反制這類新時代科技的方式。
想看更多好片分享？歡迎蒞臨阿瓜曼達筆記繼續觀看更多文章。
1會員
9內容數
在想要放鬆的時候，你會選擇做什麼事呢？
如果你像我一樣選擇打開 Netflix，聽每部影片開頭的那聲「Tudum」的話，那麼你就千萬別錯過這個專題，讓我帶著你探索藏在影片資料庫的各個角落，看看打開串流平台的另類方式！
留言0
查看全部
你可能也想看
Google News 追蹤
反省就是重寫自己的演算法吧？
假設我就是人工智慧，或心智的可以被看作爲人工智慧的編輯器，那我的程式碼是什麼樣的？
從懵懂無知到一無所知，從自以為是到自我消逝，心智只是執行它的內容，我也需要不斷優化。
最好的優化就是簡化。
最能創造財富的演算法就是關於如何除錯與減少任何風險。
這本由德國作家彼強．莫伊尼創作的《演算人生》，講述了一個近未來的時空中，由公投接受名為「立方體」的演算法人工智慧作為社會系統，所引發的一系列故事。文章對於人工智慧的影響及可能的警示提出了值得深思的看法（這段摘要還是用人工智慧算出來的，真夠諷刺）。
在人工智能的發展歷程中，早期的研究主要側重於將解決問題的規則輸入計算機，試圖通過啟蒙運動理性的思路模擬人類的智能行為。然而，這條路逐漸變得艱難，因為規則過於繁多，無法應對複雜的情境和語境。在這個背景下，一些科學家轉向了神經網絡算法，試圖模擬人腦的感知能力。
人們總是期盼科技帶來的創新，說到底是人在心理上對於現行做法想要改變，或是挑戰既有威權的心理投射。
千萬別忘了，在ChatGPT與AI的年代，人要能不被取代，創造資料庫中找尋不到觀點以及同理心，凌駕AI產生新價值。
本文討論了人類在面對變化時的應對策略，包括數據分析的重要性，科技趨勢對工作形態的影響，以及對無條件基本收入的討論。透過工程師職涯教練Yi姐豐富的經驗，分享如何運用數據進行更好的決策，探討寫作和自媒體創業的投資報酬率，以及對未來的靈活規劃。
今天說的是一種稱為「自動化偏誤」(automation bias)的認知偏誤。人們常會不加思索地認為由自動化決策系統，例如現在常用的ChatGPT，會有程式語言賦予的理性與客觀，比較能避免人類常見的各種偏見。
編碼你的命運：神秘學與數位世界的交織
在數位世界裡，我們像神秘學者一樣解碼生活中的一切。藉由電腦程式和演算法，我們試著預見未來，塑造可能性，編寫我們的命運。
連結網址:
https://sites.google.com/view/botstw-05/
#編碼你的命運
現在都在探討AI成形後的社會模式
每一個階段的習慣科技都只是為了我們人類的需求很誕生
不過在現階段的認知我認為人類始終能掌控科技
因為
AI人工智能最厲害的是"計算"
而我們人類最厲害的是"算計"
"計算"靠的是公式."算計"靠的是想像
有算計的是世界才
關於這本書，我認為......
《深度數位大掃除》是一本出乎意料的優質好書。
自從社群媒體、大數據、人工智慧等陸續問世，對於科技如何快速進展，進而滲透人類生活的相關研究已屢見不鮮。原以為這類主題大概是敘述科技對人類生理、心理的負面影響，並提供一些老生常談的方法來杜絕。
但這本書卻提供另一個
★看似客觀中立的機器運算，可能在學習人類提供的資料後，再複製社會偏見與歧視，形成「自動不平等」！
反省就是重寫自己的演算法吧？
假設我就是人工智慧，或心智的可以被看作爲人工智慧的編輯器，那我的程式碼是什麼樣的？
從懵懂無知到一無所知，從自以為是到自我消逝，心智只是執行它的內容，我也需要不斷優化。
最好的優化就是簡化。
最能創造財富的演算法就是關於如何除錯與減少任何風險。
這本由德國作家彼強．莫伊尼創作的《演算人生》，講述了一個近未來的時空中，由公投接受名為「立方體」的演算法人工智慧作為社會系統，所引發的一系列故事。文章對於人工智慧的影響及可能的警示提出了值得深思的看法（這段摘要還是用人工智慧算出來的，真夠諷刺）。
在人工智能的發展歷程中，早期的研究主要側重於將解決問題的規則輸入計算機，試圖通過啟蒙運動理性的思路模擬人類的智能行為。然而，這條路逐漸變得艱難，因為規則過於繁多，無法應對複雜的情境和語境。在這個背景下，一些科學家轉向了神經網絡算法，試圖模擬人腦的感知能力。
人們總是期盼科技帶來的創新，說到底是人在心理上對於現行做法想要改變，或是挑戰既有威權的心理投射。
千萬別忘了，在ChatGPT與AI的年代，人要能不被取代，創造資料庫中找尋不到觀點以及同理心，凌駕AI產生新價值。
本文討論了人類在面對變化時的應對策略，包括數據分析的重要性，科技趨勢對工作形態的影響，以及對無條件基本收入的討論。透過工程師職涯教練Yi姐豐富的經驗，分享如何運用數據進行更好的決策，探討寫作和自媒體創業的投資報酬率，以及對未來的靈活規劃。
今天說的是一種稱為「自動化偏誤」(automation bias)的認知偏誤。人們常會不加思索地認為由自動化決策系統，例如現在常用的ChatGPT，會有程式語言賦予的理性與客觀，比較能避免人類常見的各種偏見。
編碼你的命運：神秘學與數位世界的交織
在數位世界裡，我們像神秘學者一樣解碼生活中的一切。藉由電腦程式和演算法，我們試著預見未來，塑造可能性，編寫我們的命運。
連結網址:
https://sites.google.com/view/botstw-05/
#編碼你的命運
現在都在探討AI成形後的社會模式
每一個階段的習慣科技都只是為了我們人類的需求很誕生
不過在現階段的認知我認為人類始終能掌控科技
因為
AI人工智能最厲害的是"計算"
而我們人類最厲害的是"算計"
"計算"靠的是公式."算計"靠的是想像
有算計的是世界才
關於這本書，我認為......
《深度數位大掃除》是一本出乎意料的優質好書。
自從社群媒體、大數據、人工智慧等陸續問世，對於科技如何快速進展，進而滲透人類生活的相關研究已屢見不鮮。原以為這類主題大概是敘述科技對人類生理、心理的負面影響，並提供一些老生常談的方法來杜絕。
但這本書卻提供另一個
★看似客觀中立的機器運算，可能在學習人類提供的資料後，再複製社會偏見與歧視，形成「自動不平等」！