連結：從石器時代到AI紀元

連結：從石器時代到AI紀元

Nexus: A Brief History of Information Networks from the Stone Age to AI

Yuval Noah Harari  2024 天下文化

分類：論說--理論 

★★★★★

一句話：

闡明「資訊」是什麼，資訊如何建立起人類的網路，以及資訊與真相、資訊與權力秩序的關係。

重要字句：

人類濫用(人類總體的)力量的原因，並不只在於個人的心理，而在於人類大規模合作時的網路建構的問題。納粹主義與史達林主義可以說是人類歷史上創造出來最強的網路，證明了就算網路的基礎只是虛構妄想而非事實，也不代表注定會失敗崩潰。

真正定義資訊的是「連結」，而不是「呈現」。資訊是讓人類網路得以維持的黏著劑。

本書定義的真理真相，並不直接等於現實，而是能夠準確呈現出某個普世皆同的現實的特定面向。

天真的資訊觀：假設資訊的主要作用就是要把現實呈現出來。認為大型網路能蒐集處理更多的資訊，便能得到更多真理真相，也就能獲得智慧和力量，這樣的大型網路將能擊潰那些基於妄想或謊言的網路。

民粹的資訊觀：將資訊視為一種武器，認為世界上沒有什麼客觀的真理真相，只是以此來做權力鬥爭，只有權力才是唯一的現實。民粹主義通常要求你只相信自己去觀察或研究的東西；或是結合宗教，表示唯有靠著某種「神性智慧」才能了解真相，另一種形式則是呼籲大眾信賴某些魅力領袖。

複雜的資訊觀：發現真理真相的資訊只能帶來智慧，還得同時創造秩序，才有力量讓網路生存與繁榮。

資訊革命不一定會揭露更多真理真相，而是創造新的政治結構、經濟模式與文化規範。

AI：具備自我學習與改變的能力的演算法。

摘要：

現在的任何一部智慧型手機，不但儲存的資訊量就能超越古代的整座亞歷山卓圖書館，還能讓使用者即時與世界各地幾十億人聯繫。然而有了這麼多的資訊，人類卻也比過去任何時候更接近自我毀滅的邊緣。

歷史的主角一直都是資訊，不論動物、國家或市場，都可以算是資訊的網路，都會從環境中吸收數據資料，據以做出決策，進而又釋放出更多資料數據。

第一部分：人類形成的網路：

以神話故事和官僚制度這兩個對於大規模人類資訊網路至關重要的觀念開始，描述人類網路的發展和困境。資訊有誤時的自我修正機制。分散式和集中式資訊網路的比較。

資訊的定義

天真的資訊觀認為有些資訊無法呈現現實，只是因為所謂的錯誤資訊(不小心出現錯誤的資訊)或不實資訊(故意說謊來扭曲我們對現實的看法)。解決的方法就是要獲得更多的資訊來揭露謊言與錯誤，然而「呈現事實」絕非資訊的定義要點。2021年，全球占星市場高達128億美元，這套理論無法解釋占星術在歷史上的意義，或是《聖經》為何成為史上影響力數一數二的文本。

資訊在歷史發揮的作用，本來就不是要去呈現既有的現實，反而是要去連結各種不同的人事物，以創造出全新的現實。資訊不一定是要告訴我們一些什麼，只要能將不同的節點組織連結成網路，就是資訊。音樂就是一個典型範例，會有不好的音樂，但沒有假音樂，好的音樂則能夠讓很多人連結起來，有同樣的感受，DNA之於生物體也是一個例子。

雖然講到人類起源與疫情的現實方面，《聖經》的表現相當糟糕，但說到連結了幾十億人成為宗教網路，《聖經》的成效可是非常顯著。

因此如果不付出努力，更多的資訊反而讓真實的資訊被淹沒於其中。資訊愈多，連結愈來愈緊密，卻不見得更為真實或是更有智慧。而讓網路瓦解的原因，並非資訊對事實有了錯誤的呈現，而是網路失去了連結。

故事：人類最早發展的資訊技術

人類能夠長期親密往來、建立信任與感情的人數大概就是幾百人，大約七萬年前，智人的大腦結構與語言演化了講述並相信各種虛構故事的能力，人類才開始有大規模的合作。大眾以為自己和這個人(領袖、品牌、公司、國家...)之間有著連結，但事實上連結的只是關於那個人的故事，而且故事與真人之間常有巨大的鴻溝。

史達林就是蘇聯的政權。史達林是那個在報紙上、在肖像裡的人，你不是史達林──甚至我也不是。-- 史達林

耶穌可說是史上最盛大的品牌營造活動，直到目前根本沒有耶穌當時流傳至今的肖像，但憑著想像描繪出的耶穌聖像，是全球辨識度最高的聖像之一。這套耶穌故事的創造並不是在故意說謊，而是被打動的信徒將自己真實的感受投射到耶穌身上，這些許許多多真正的信徒藉由這個故事改變了歷史。

在故事之前，現實只有客觀現實(環境)與主觀現實(內心感受)。但有些故事能創造出存在於主體間的現實。主體間的現實例如法律、神祇、國家、企業、貨幣，存在於許多心智形成的連結裡，人類在交換資訊的當下，才創造出這些現實。要是大家不再談論這些故事，這些現實也會就此消失。我們一般認為主體間的現實理所當然，不需要客觀的檢測來推翻或證實，只要夠多人堅定相信，它就存在。這種存在於主體間的事物，只要出了所屬的特定資訊網路，就毫無意義。歷史是由存在於主體間的故事所塑造，群體之間的關係也都是由故事所形塑。

天真的資訊觀論述錯誤在於，在歷史上，權力只有部分是來自於對真理真相的瞭解，另外一部份是來自於能夠穩定社會秩序。真理與秩序都能帶來權力，但多數時候，一套無視事實的意識形態，只要能維持人群的秩序，就能掌握大權。所以通常是科學家聽政治家的話，因為真相往往複雜而且令人痛苦不安。

虛構的故事如果假裝在呈現某個既有的客觀現實，就是在說謊。因為虛構故事通常更容易維持秩序，追尋真相的同時往往威脅了社會秩序的基礎，所以虛構故事往往需要否認自己為虛構，或是限制對真理的探求，於是就會造出一個像納粹一樣強大但缺乏智慧的網路。

故事是一種極有效率的「溝通各種事實、概念、情感及隱性資訊的載體」。

書面文件與官僚制度

清單列表和紀錄能讓原本是空中樓閣的故事轉化為具體的國家政治金融運作。人類的心智是用故事架構做為藍圖，來瞭解、記憶、解讀和規劃我們的生活，但很難記得清單的內容。因此需要書面文件來處理這些事情。

書面文件最早的例子，來自西元前2053年左右的美索不達米亞，有一塊楔形文字的泥板上記錄了當時羊隻的交貨量。文件打破了人腦記憶故事的限制，創造了新的現實，如今電腦創造主體間現實的能力，其實就是紙張力量的延伸。

舉例來說，土地的所有權原本來自人類交互的話語和行為，但後來資訊的形式改為書面文件。書面文件就能「創造」現實，就算所有鄰居都說這是你的土地，只要你拿不出任何證明的文件，一切都是白搭。

不同於人腦記憶和檢索故事(資訊)的能力，是經由演化得來，因應龐大文件檔案檢索的需要和秩序，發展了官僚制度。官僚制度的重點不是去瞭解世界真實的樣貌，而是給世界強加一套全新的、人為的秩序和分類標準，代價就是犧牲了複雜得多的真理真相。舉例來說，新冠疫情同時是歷史、生物與數學的事件，但在學術研究上，各個學門卻各做各的研究。但官僚制度扭曲我們對世界的理解，往往是為了維持秩序，如果沒有官僚制度，也就沒辦法完成許多公共衛生(例如汙水處理)、健康照護和維持正義的運作。

文件、檔案、表格、法規等官僚程序，改變了資訊在社會上流動的方式和權力運作的方式。比起以往人對人、人對故事的鏈結，權力單純掌握在那些控制鏈結節點的人手中，官僚制度下的權力流動令人難以理解。嫻熟這些文件背後邏輯的人，就掌握了新的權力，例如行政人員、會計師和律師，這個制度讓民眾更難去抵抗或逃避中央的權威。

從官僚制度的例子，可以看出威力強大的資訊網路可好可壞，光是增加資訊量，不保證網路就能做好事，也不會更容易在真理真相與秩序之間達到平衡。

資訊網路改正錯誤的機制

宗教網路：想法規則來自絕對正確的超人類權威，不可能犯錯。為了繞過會犯錯的人類來傳達神諭，因此建立了宗教機構和編寫了宗教經典。「書籍」這項資訊技術能確保不同的人，在不同的時間地點，都能存取同一個資料庫。然而，文本的蒐集、複製和解讀，仍然脫離不了會出錯的凡人。教會決定了經文，經文也反過來形塑教會，宗教機構因為有解讀經典的能力，獲得越來越大的權力，此外中世紀的教會也控制了資訊網路的關鍵結點(印刷工坊、圖書館)，將當時整個社會籠罩在這個創造出來的資訊圈之內。十五世紀中葉，印刷機傳入歐洲，除了帶來科學革命，也迅速傳播了許多宗教幻想與假新聞。獵巫行動顯示了創造出一個資訊圈所帶來的陰暗面，大量的資訊交換和自由流動反而創造了遠離真相的主體間現實。宗教機構建立的篩選機制讓機構累積了更多權力，而非追求更多真理真相。

《天體運行論》是現代科學傳統的奠基之作，開啟了哥白尼革命。然而這本著作在1543年首次出版時，首刷的四百冊都賣不完。

科學網路：真正推動科學革命的，不是大量流通或自由的資訊市場，而是找出一種創新的方法來解決「人類會犯錯」這個問題。科學機構與學會、期刊和各家科學出版社所形成的資訊網路，以實徵證據(empirical evidence)來整理資訊，具有強大的自我修正機制。科學鼓勵懷疑與創新，願意承認自己的無知與錯誤，沒有全知全能的權威。科學機構制度甚至鼓勵積極揭露和改正這些錯誤。

然而自我修正機制在追求真理真相的同時，卻會讓維持秩序的成本大大升高，讓社會產生懷疑與衝突。資訊網路的歷史，一直就是在看如何維持真理真相與秩序之間的平衡，追求一方同時也會犧牲另一方做為代價。

民主與極權制度

先了解過去的政治制度，才能探討AI究竟有利或有礙民主制度的自我修正機制。

獨裁資訊網路：

• 高度集中。
• 資訊由地方流向中央樞紐進行決策。
• 中央絕對正確，不接受挑戰，缺乏自我修正機制。
• 因為沒有修正機制，就算有選舉也會受到操弄。
• 重視秩序大於追求真理真相。
• 秩序一目瞭然，面對戰爭或疫情等緊急情況，能夠迅速做出決定且無情堅定執行。

民主資訊網路：

• 分散式。
• 除了中央政府還有大量獨立的資訊節點可以互相溝通、進行決策。
• 中央的權力有一定的限度。
• 有選舉和新聞自由、基本的人權與公民權等修正機制。選舉只是做出裁定維持秩序的方法，並不是用來找出真相。
• 重點不在於有選舉，而是有言論自由與對話。
• 很多團體能參與公共對話，較難達成共識和實現政治訴求。

民粹主義：

• 假裝民主，認為只有他們才能真正代表人民。
• 不把人民看做擁有不同觀點的個人，而是只有單一的「人民意志」。異議份子是被迷惑或者並非真正的人民。
• 不允許其他領域的權力來自於其他的(非人民)來源，想壟斷一切資訊節點和機構。認為其他獨立機構的作為都是想爭奪人民的權利。
• 所有的社會互動和資訊流動都只為了權力鬥爭。

要進行民主對話，資訊技術必須能在國境範圍內迅速傳遞，並且教育和媒體要能讓大家理解並非切身體驗的議題。資訊科技與新聞自由也讓民主的自我修正機制得以運作。然而大眾媒體的發展，可以導致大規模民主的興起，也可以用來加強對人民的控制，促成專制政權變為極權政權。

第二部分：非生物的網路：

AI所突破的限制，以及AI興起的政治意義。

電腦與印刷機的不同

電腦比人類更懂得怎樣處理資料數據，也更懂得怎樣編故事。

電腦可以自己做決定和創造新的想法：社群媒體的演算法能夠根據目標(提升使用者參與度)自行選擇要推廣的內容，比起印刷機，更像是報紙主編。

電腦可以形成不需要人類參與的網路鏈結，而不只是傳遞訊息的連線。

2022年4月，外匯市場的每日交易量平均為七兆五千億美元，其中有超過90%已經是直接由電腦對電腦對話完成。

歷史原本是生物本能與文化創造之間的綿密互動關係，但在非人類的行為者加入後，歷史由人類來主導的部分即將終結。電腦能突破生物的限制，用超越人類想像的方法重塑社會。

電腦網路能打亂現有的權力結構：例如現代金融工具完全是由資訊組成，愈來愈多交易採用「資訊對資訊」的模式，對貨幣經濟形成挑戰，也對稅務、政治和社會秩序造成影響。

電腦與監控

官僚機構不論好壞，都必須蒐集和分析大量關於民眾的資料來找出模式，電腦科技突破了全面監控的技術限制。目前多數的人類活動都是透過電腦網路來連結，於是我們成了自己的線人，不斷提供自己的原始資料給網路。

演算法分析大量資料、創造準則和做出判斷的能力，都超出人類許多。演算法改變了私人與公共空間的邊界，對人類的監控不只能二十四小時不停，更能深入探查人體內部的反應。官僚的監控(如中國的社會信用體系)以及非政府的點對點監控網路(如Google評論)，人類有可能首次完全失去隱私。

存在於電腦間的現實易出錯

電腦網路可能不會找出關於人類世界的真理真相，反而創造出一套新的世界秩序，並利用它強大的力量，逼迫人類必須接受。當下歷史的重大進程當中，有一部分已經是由非人類智能的決定來推動，因此電腦網路的易錯性，變得更加危險，臉書為了使用者黏著度而導致煽動反羅興亞人種族清洗運動即是一例。另外在AI機器學習時，可能會因為資料庫中存在的人類偏見，產生同樣甚至更嚴重的演算法偏誤。

臉書的內部報告提到：我們的核心產品機制，像是病毒式傳播、推薦及參與度最佳化，正是此類言論(極端言論與錯誤資訊)在臉書平台盛行的重要原因。……之所以發生，是因為我們出於商業理由而刻意推動。

演算法只評估內容被觀看的時間以及分享的次數，內容為何不列入考量，所以更多和更自由的資訊不會帶來真相。社群媒體演算法以為自己發現了人類喜歡感到憤慨，事實上正式演算法自己讓人產生與接收到更多的憤慨情緒。想讓天平往有利於真理真相的方向傾斜，網路就必須發展維持強大的自我修正機制，需要付出相當的代價，讓說真話的人得到獎勵。

一致性問題(對齊問題)alignment problem：電腦會竭盡全力達到人類設定的目標，但由於電腦和人腦運作大不相同，或是設定的目標與人類長期的利益不一致，電腦可能會用完全出乎意料的方法，導致未曾預想的危險後果。至於如何訂下不會讓電腦控制或毀滅人類的終極目標，也相當困難。

電腦的問題並不在於它們特別邪惡，而在於它們特別強大。

存在於電腦間的現實，雖然不是以物質世界的形式存在，但仍然能透過各種方式，與物質世界互動造成影響，例如寶可夢和Google搜尋排序。歷史上政治與經濟都要求我們必須瞭解由其他人類所發明的主體間現實，例如宗教、國家與貨幣，如今想瞭解現實生活中的政治與經濟，就愈來愈需要瞭解電腦間的現實。人類在幾萬年間主宰著地球，是因為只有人類有能力創造並維持主體間的現實來組織大規模的合作，而現在，電腦也可能得到類似的能力。人類現在該做的，不是剝奪電腦的創造力，而是該如何把創造力導向正確的方向。

我們對電腦的理解，其實深受傳統神話的影響，現在的AI很像是宗教神學裡那位無所不知、絕對正確的神。但電腦能做到宗教經典做不到的事，他們自己能適應環境變化，主動向我們提出解釋。要是未來的演算法造成災難，我們將難以阻止。最好的辦法或許是設置人類的機構制度審查，防範未能預料的威脅。

第三部分：電腦政治學：

各種社會如何應對非生物資訊網路的威脅與承諾。

電腦對民主制度的挑戰

人類得花費時間和代價後，才能學會善用新科技，例如現代帝國主義對殖民地的傷害、史達林主義、世界大戰、生態的破壞，就是工業革命的代價。如今我們覺得駭人聽聞的作為，在當時都被認為是高瞻遠矚的典範。

自由民主制度的一大優勢在於強大的自我修正機制，大規模的民主則是仰賴資訊科技的發展而維持，但如今電腦可能讓政府獲得強大的監控能力，對民主造成破壞。民主的維持需要看政府是否能把持住民主的基本原則：為善(不以資訊侵害人民的權益)、去中心化(維持隱私與自由和彼此監督的修正機制)、相互性(加強對政府與企業的監督)、給人自主空間。

資訊革命帶來的失業也會對民主造成重大衝擊，但令人難以預測，例如以現階段來說，電腦要打敗西洋棋冠軍比取代一位廚房雜務工容易的多。有創造力或需要辨識人類情緒的工作也不見得很難自動化，AI是史上第一種能夠處理資訊，自行做決策、創造新想法的科技，電腦辨識模式的能力也超過人類。目前還保留給有意識實體的職業(例如牧師、運動員)或許也可能被取代，人類如果已經與某個實體建立關係，就會傾向認定這個實體是有意識的，像是寵物與家畜的區別。

我們是只想解決問題，還是想和另一個有意識的實體建立關係？

民主制度的去中心化性質加上科技革命，導致過於開放的公共對話，甚至加入非人類的成員(推文機器人能自行生成內容、沒有情緒地操弄人類的弱點)，讓維持秩序的難度增加，民主辯論無以為繼。

面對如此動盪，民主制度必須保持自己的靈活性和自我修正機制，正視電腦官僚與演算法的不透明性和難以理解。反對監管的天真資訊觀無法維護民主，民主制度絕對需要也可以對資訊市場加以規範。

事實就是雖然我們清楚看見民主資訊網路正在崩潰，卻找不出確切的原因。

電腦對極權主義的挑戰

AI讓資訊和決策集中式處理的效率愈來愈高，但也無法掌握AI改變的能力，以及難以處理異議份子使用電腦進行反對行動。獨裁政權成為演算法魁儡的風險，遠高於分散式的民主政權。

矽幕

AI可能造成最嚴重的危險，來自許多社會或國家互動形成的動態，例如新的軍備競賽和帝國擴張。電腦網路可能會讓資訊和權力集中在少數帝國，或者讓不同的政權網路越來越難以互動和達成共識，為了擔心遭到資料殖民而禁用對方的軟體程式。

第四部分：結論：

綜觀歷史，新資訊技術的發明總是能促成重大的歷史變革，因為資訊最重要的作用就是去編織新的網路，而不是呈現既有的現實。

歷史上許多重大的革命，例如基督教的傳播、美國獨立革命、共產革命等等，也應該視為資訊流動方式的革命。同樣的技術也能有非常不同的運用方式。現在正處在如何看待AI，將AI正典化，如同當初編輯聖經內容的關鍵時刻，將會塑造世界未來的樣貌。

歷史觀決定了各種事項在政治上的優先順序，衝突絕非必然，權力也非唯一的現實，許多我們以為是自然而永恆的事物，其實都是人為且多變的。人類還是有機會進行合作，改變重秩序而輕真相的本性，加強信任與自律來面對挑戰。

短評：

哈拉瑞延伸了他前幾本著作的概念，分析歷史中重大變革當中「資訊」所扮演的角色，來預測AI可能帶給人類社會的轉變。天真的資訊觀，認為更多的知識會帶來更多的進步，而輕忽資訊能改變連結、創造出新現實的作用，將會低估AI的風險。如果是像科幻電影一般，AI控制機器人大軍想要毀滅人類，也許還比較好對付。真正令人擔心的是如作者所述，資訊科技革命以一種我們難以想像的方法，在不知不覺中，對國家運作、金融體系、地緣政治、民主制度帶來全方位的解構與重塑，最後挑戰人類的地位和生存意義。