《演算法的100道陰影》讀後心得

又會分析又會影響人的「演算法」

演算法的問題∶歧視、失準、同溫層

歧視問題

用收集資料起家的演算法，也被詬病有歧視問題。其實說白了歧視的不是演算法，而是被當成輸入的資料。當輸入的資料中百分之八十工程師是男性，演算法自然覺得工程師更可能是男性，而如果招募演算法因此推薦更多男性候選人，可能會造成女性更難打入工程師的位置。問題的本質是熟悉統計的人都知道的，照原有的資料看兩件事有數學上的相關性，不代表是因果關係。

失準問題

預測演算法是以統計結果來作預測，用統計結果反過來作預測要有用，有個大前提是被預測的人數要夠多。如果單套在一個人身上，就會有很多失準的現象產生了。這其實是所有預測性演算法共同的侷限。

同溫層問題

「同溫層」這個概念現在大家大概都不陌生了，本書有一章談到所謂的「泡泡」指的是同一個意思。泡泡的產生來自於社交網站使用的能見度公式：與一個人/主題互動越頻繁，越容易看到相關訊息。

其實這個概念本身本來沒什麼問題，就算是沒有網路的時候，人也是有同溫層的。不過近年來發現網路推播的訊息受這個演算法影響較深。怎麼說呢？例如有個人寫了完全不合理的假訊息，結果很多人都留言罵他，這就是互動了。於是留言的人更容易看到這類訊息，因為演算法覺得他「有興趣」。久而久之，使用者就不容易看到沒有互動的消息。

假新聞問題

跟同溫層問題師出同源，假新聞主要是指內容不真實的新聞。有些消息刻意作假，利用人氣衝上某些人版面的主流。假新聞的問題是在會強化錯誤的記憶。有一個名詞「曼德拉效應」，是指人會被自己的錯誤記憶給矇騙。如果對一件事本來沒有太深印象，看幾次講述錯誤情況的證據之後，就更容易生成錯誤記憶，也不會想到要去懷疑這件事情。常見的情況是消息寫的比較聳動來吸引點擊，不明就理的人被吸引幾次之後，牆上就都是類似的訊息了，看多也就信了。

演算法究竟是好是壞

演算法vs人，演算法會比人問題更大嗎？

演算法只是單純反映我們身處的世界所帶有的偏見而已。

在談問題的時候很少人會回頭想這件事。一開始開發演算法是因為比人力更有效率，那麼我們就應該權衡一下究竟是利大於弊還是弊大於利的問題。

舉歧視問題為例來說，既然演算法的「歧視」現象是來自於輸入的資料，也就表示其實是因為社會上(至少是在使用的資料集範圍內)普遍存在人互相歧視的現象。所以很自然的我們應該要問的問題是，演算法的歧視比人的歧視還糟嗎？就統計結果來說，至少演算法似乎沒有比人更糟。而又因為演算法執行快速，這可能代表如果我們只討論人和演算法判斷的結果精準度和速度的話，演算法可能還是比較厲害。

雖然如此，統計很難直接給我們質化問題的答案。如果我們把一切都交給演算法處理，會不會造成歧視惡性循環的更嚴重？在這本書中，並沒有談到這個部份，我相信也是社會科學很有趣的研究題目。

演算法的限制，還是人的弱點？

改善不可能來自嚴謹的方法論，因此他們大多仰賴建模者本身的知識技能。

書中點出很重要的一點，也是非業內專家很容易忽略的一件事：在做統計的時候，因為資料總是有一定的限制，執行統計方法的人總是需要想辦法微調和矯正這些缺陷。作為一個以資料分析為生的讀者，這件事對我來說可說是常識，不過相信很多人並不真的深入了解這一點。這種現象常見於股市分析或選舉分析，各家投資者總是盡量把資料在合理範圍內弄得更「符合常識」一點。

這些演算法都建立在一個概念上，就是其他人的推薦與決定能讓我們學到東西。

很多有推薦功能的網站像Netflix、Amazon都是利用同一個觀念∶用別人的推薦來幫我們作決定。這些功能的需求來自人性∶我們不想看到過多資訊。於是網站給我們幾個選擇，我們從中挑出自己喜歡的。我們很容易的就被所提供的選擇「控制」了。

於是各種最佳化，增加曝光的方法誕生了。基於人的從眾性格，如果一件商品、一部影片一開始出來的時候就有大量關注，它就容易出現在排行榜的前面。乍看很可怕，但是仔細想想，沒有網路之前人好像也是這樣。

同溫層有那麼嚴重嗎？

同溫層問題聽起來嚴重，不過作者卻提出不同看法的研究。有人研究了同溫層造成的過濾是不是真的影響了用戶，卻發現統計上收效甚微。意思是說有影響，但是影響沒有大到可以改變世界(像選舉結果等)。另一則研究大略計算了有多少人在選前記得假新聞，也顯示只有一兩則，而且不太可能相信。

雖然這兩則研究是這麼說，我個人是對這些證據是否夠有力持保留的態度，因為書中談到的這方面研究只有兩則，以第一則來說主要題目是研究保守派和自由派選民受到的影響，似乎研究的主題並沒有專注在「不明就理的人」究竟有多少上？第二則只有「大略」計算。畢竟前面才談過了，統計結果和資料使用的方法能否符合作者試圖傳達的訊息這件事其實是要很仔細觀察才能辨別的。我還沒有完整看完過這類型的論文，所以我覺得同溫層這個問題是否嚴重還需要更深入分析。

機器會不會超越人類？

• 一個模型有沒有可能對於每個問題都要重新訓練起？
• 模型有沒有辦法做到人需要告訴模型他的目標函數？

心得總結

真正的威脅不在於電腦智能大幅提升，而是我們使用現有的工具只造福少數人，而非改善多數人的生活，只想著為超級富豪提供管家，而非解決廣大人民的問題。