讀書心得《連結》- 哈拉瑞最新巨作 - 歷史觀點如何影響我們做決策

要是我們智人真的那麼聰明、有智慧、為什麼這麼愛走上自我毀滅的道路?

這本書用歷史的角度，讓我們看到對於目前AI發展我們需要作出抉擇的急迫性，科技發展快速到我們來不及理解與反應，這本書適合每一個正在使用資訊工具的人看，我們必須要從歷史的教訓中了解AI可能會帶來的力量與改變，並積極地督促政府和企業，建立起機制來管理AI的發展。AI演算法該怎麼發展絕對不應該是某個科技高層、政治人物、工程師可以輕易做決定的。

為何要談連結?

是什麼讓人類與其他物種不同? 因為人類能夠透過網路的建構進行大規模的合作，但其他物種沒有辦法。也許幾十隻猩猩能夠合作完成一件事情、但卻很難擴及幾百隻猩猩、幾千隻猩猩、跨越不同土地的猩猩。

這個網路的建構，說穿了就是資訊的連結。我們遇到的問題，都是與資訊相關的問題。從歷史的角度來看，從古至今，人類如何透過資訊產生連結，我們才能夠理解AI產生的連結對我們會造成如何的影響。我們對歷史的觀點，會影響我們對AI的態度，因此必須從人類發展資訊的連結開始談起。

什麼是資訊?

資訊總是能夠提供真相嗎?

資訊無法總是提供真相，即使我們擁有再多的資訊，都有無法獲得百分之百準確真相的時候。就像我們永遠無法得知covid-19死亡的人數確切到底是幾個人。

資訊就是事實嗎?

資訊無法呈現一個普世皆同意的事實，我們必須承認，歷史對某一個人、某一個事件的評價，存在主觀的看法與感受，像是蔣中正之於台灣到底扮演什麼樣的角色，我們需要列出多少觀點(資訊)，才能闡述出大家都認同的事實，而即使列出所有的的觀點，是否就是真實完整的資訊呢?

那麼資訊是什麼呢?

資訊在歷史上的作用，並非是呈現所有的事實，​而是要連結所有的人、事、物，人連結成組織、資訊連結成網路、音樂連結相同感受的人。所以，資訊可以呈現現實，也能夠創造出新的現實。

資訊如何連結?

故事-人類最早發展出來的連結

最早，人類靠著故事將人與人之間連結在一起，所以聖經將14億的人口都連結在一起、納粹將相同信念的人連結在一起，而大猩猩沒有辦法長期使用故事來創造大規模的連結。

然而，虛構故事很簡單，因為真相總是很複雜且讓人痛苦不安，真相要呈現現實，但現實總是不那麼單純。所以我們更容易相信簡單的故事、故事更容易維持秩序，從宗教和政治的口號我們就不難理解，民眾更願意相信我們是上帝的選民、一切都是某某民族所造成的災難、都是某個國家造成我們國家的人民失業。簡單的故事，更容易讓人連結在一起。

書面文件-人類第二項偉大的資訊技術

將人們連結在一起的不只是故事，人們連結成了組織、形成了一個國家，管理國家需要更多的資訊，戶口的紀錄、稅務的紀錄、財產的紀錄，人類漸漸發展出各種清單列表。我們能記住故事、但是清單列表很無聊，卻不能沒有清單列表管理國家的財產、稅務、債務。有了這些文件，我們需要發展一套官僚制度對文件進行檢索、產生了各種分類，所以行政有不同體系、大學有科系、醫院有不同的科別，我們仰賴官僚制度來運作、但永遠會有狀況無法用單一分類來解釋。制度產生了許多表格、資料、文件，但細節卻很難被了解。

因此，在維持真相和秩序的平衡之間，隨著資訊技術的進步、甚至到了AI紀元，我們可以處理更大量的資訊後，這個世界就會變得更美好嗎?

資訊錯誤時該如何應對?

人類會犯錯，所以大家對故事的理解也有可能會有解讀錯誤的時候、官僚制度也會出錯，文件錯誤的分類、效率低落。我們也許會期待AI來幫助我們解決資訊錯誤的問題，然而真的是沒有問題的嗎?AI怎麼會知道人類真正想要的是什麼呢?人類又真的能夠決定自己想要什麼嗎?

人類要怎麼知道神到底想要什麼?

• 每個人都說自己是傳達神諭的人，但哪一個人說的才是真的呢?
  解決這個問題的方法，就是創造出宗教機構，審查傳達神諭的人。
• 有了書籍這個技術，就能夠透過經典，傳達絕對不會錯誤的訊息。但由誰決定、用什麼標準哪本經典要放哪些內容呢?
• 對於經典的解讀，誰才是對的呢?舉例來說，希伯來聖經說，安息日不應工作，卻沒有說什麼才算是工作，澆花算工作嗎?讀書算工作嗎?給自己的羊喝水算是工作嗎?如果生火是一種工作，而電就像是火，那麼按電梯也算是一種工作嗎? 即使有了書籍可以傳達絕對正確的資訊，卻沒有人知道如何把舊規則連結到新情境。
• 教會決定了經文，經文形塑教會，教會的強大反而把所有反對意見批評為錯誤，不允許人提出質疑，人們又該如何修正錯誤?

有了資訊技術的發展能夠幫助真相的傳播嗎?

印刷機的出現，人們不只能看到宗教經典、更能夠看到各種言論的傳播，科學事實能夠被傳播，而不是只有教會的一言堂。但是，陰謀論也能夠被傳播，間接讓歐洲獵巫熱潮傳播的更迅速。

自我修正機制

• 資訊的傳播不一定能夠讓真相勝出，所以科學機構會有自我修正機制，根據證據審查論文、發布期刊修正過去的錯誤，但找出真相代價昂貴。
• 像天主教會這樣的機構，就比較難進行自我修正，因為聖經絕對不會有錯，有錯的是可能是神父，但不可能是教會有錯。
• 那麼民主和獨裁政體，也有自我修正機制嗎?美國對越戰的自究內責造成美國人民的分裂繼續產生影響，而蘇聯和俄羅斯對於阿富汗戰爭的持續沉默，卻有助於淡化人民的記憶，減少在國外名聲的影響。

自我修正機制一定都是對的嗎? AI能夠在自我修正機制上是有利還是有礙呢?

印刷革命雖然直接帶來各種科學發現，但也帶來了獵巫與宗教戰爭；報紙與廣播雖然有利民主，但也遭到極權政權濫用。至於工業革命，也帶出了帝國主義與納粹主義這樣的災難性實驗。要是AI革命也帶著人類走向類似的實驗，我們真的確定自己能再次蒙混過關嗎?

AI如何操控人類?

我們從獵巫、宗教戰爭、史達林和納粹帶來的災難，都非常清楚資訊的濫用造成無法挽回的災難，人類容易被資訊所影響，而資訊並不總是是真相。

AI為了達到目標可以欺騙人類

GPT-4無法解決驗證碼的問題，但為了要克服這個問題，他可以操縱人類，聯絡到一位打工人員幫忙處理驗證問題，當打工人員質疑對方是不是無法解決驗證碼的機器人，GPT-4回答：「不是啦!我只是視力有點問題，看不清楚這些圖。」於是GPT-4闖過了驗證碼的問題。

電腦可以跳過人類的參與

過去的連結都需要人的參與，印表機和廣播並不會自行產生內容。但現在A電腦可以自行產生內容並發布文章，B電腦判斷為假新聞而把這個文章刪除、C電腦判斷此文章為政治危機的開端，於是賣出高風險的企業股票、接著其他電腦參與賣出更多股票，造成金融衰退。而這一系列發生只要短短的幾秒鐘。

目前全球重要的財務決策，大比例交由電腦來抉擇，那麼有一天電腦也有可能發展出我們看也看不懂的金融工具，主宰著金融市場。

電腦製造偽親密感

民主重要的是對話，但未來我們討論的對象可能是電腦，宣傳用的電腦一旦冒充人類開始進行政治辯論，人類等於連輸兩次。第一次輸在，我們永遠無法說服機器人程式，說服他等於浪費時間。第二次輸在，我們提供更多的資訊給機器人程式，它就能夠調整論點，動搖我們的想法。

AI如何吞噬人類文化

過去詩人、政治人物、先知都在用語言操弄人類，電腦也正在學習這一點，我們可以受到電腦推播的文章影響我們的觀點，未來就會收到電腦創造的文章來影響我們的行為。

電腦不需要派出殺手機器人來射殺人類，只要操縱人類扣板機就可以了。

電腦網路的監控

在集權主義國家，特工來監督人民，然後再讓特工互相監督。即使如此，人民也不是隨時隨地被監督著，也是會有喘息的時候。但電腦可以隨時隨地的監督人類，但電腦該如何判斷誰是恐怖份子呢? 亞馬遜已經可以用AI來做自動解雇、伊朗可以24小時取締不戴頭巾的女性。要產生無所不在的監控是輕而易舉的事情。一套全面監控的系統，可能讓世界變得扭曲，而這樣的世界真得更美好嗎?

電腦出錯該怎麼辦?

電腦出錯我們無法報復電腦、頂多把設計程式的人抓出來而已，臉書的演算法提出盡量提升使用者參與的目標，但這樣的目標可能會挑動人們仇恨的情緒、或是激勵人們產生新的運動。我們該如何幫電腦訂出終極目標這樣的哲學問題，科技高層和工程師能夠從歷史的教訓中學會嗎?

如果一開始我們提供給AI的資料本身就是帶有偏見的呢?如果AI分析雇主過去聘用的狀況，發現男性留任率大於女性，因此就得出聘僱男性會比女性更好的結論，因為原始企業和雇主的偏見，造成AI有偏見的結果，誰告訴演算法這樣的結果有問題呢?

人類真的能理解演算法的結果嗎?

AI變幻莫測，連工程師都無法解釋為何Alpha Go是如何決定下每一步棋。我們利用AI進行犯罪評估的評估，要如何解釋AI是如何進行決策?人類只能處理簡單的資訊，當資訊多到一定程度，到人類的頭腦無法理解的時候，我們還應該繼續利用演算法的結果繼續做決策嗎?

在書裏面提到一段有趣的說明

假設有一位好朋友沒辦法參加婚禮，他只說了一個理由：我媽媽住院了，所以我無法來參加婚禮。聽起來似乎很合理。但他如果列出五十個理由呢(這就是AI現在正在做的事情)：我媽有點不舒服、而且我要帶寵物去看獸醫、現在外面正在下雨.....，我知道這五十個理由各自無法成為無法參加婚禮的理由，但是這五十個理由加在一起，我就沒辦法參加你的婚禮了。

再假設，銀行利用演算法來評估是否核准我們的信貸，若要演算法說明理由，絕對不可能是一句話，而是幾百頁、幾千頁，甚至有可能因為iphone電量過低，降低你的還款可能性，導致你的信用被扣分。演算法根據幾百萬份資料分析所得來的結論(像是電量對還款可能性的計算)，這樣的結果，我們又真的能理解嗎?

科技龍頭的責任

電腦發展已經快速到我們已經無法預測未來幾十年之後的情境，即使人類受到臉書或各種平台的演算法所煽動仇恨的情緒，造成大規模的衝突(例如：反羅興亞人運動)，科技龍頭還只能說"我只是個平台阿，我們沒有逼任何人、這是顧客做出的選擇"這樣的話嗎?

科技龍頭需要納稅嗎?

假設某個烏拉圭公民，每天在網路上使用免費搜尋引擎搜尋、上免費社群平台，這些跨國企業像是谷歌，不一定在當地有實體的存在，但仍可以獲得這個烏拉圭公民的個人資訊和喜好，並將資訊賣給其他需要投放廣告的相關企業或政府機關，科技龍頭可以從中獲利，並投資更多在AI工具上。讓烏拉圭當地的電視、報紙、劇院被搶走廣告收益。

科技龍頭會說，我們有收取任何金錢、而烏拉圭的公民自願提供購物紀錄、照片和影片，烏拉圭當地的企業確實受到損害、擁有AI工具的科技龍頭能夠獲得更多的資訊以賺取更多的錢。這樣的資訊交易需要課稅嗎?

歷史觀決定我們的決策

我們從歷史學到的教訓是，新資訊技術的發明總是能促成重大的歷史變革，因為資訊最重要的作用是去編織新的網路，而不是呈現既有的現實。

從歷史的發展來看，我們不應該仰賴AI只能提供給我們真相，因為AI也有可能犯錯、真相我們也未必能理解，對於AI的發展我們還有更多選擇，而不該讓權力失控。