閱讀 Nexus: 虛假資訊與群體失控

source: 精英日課

赫拉利在他的新書中強調，他撰寫這本書的主要目的，是希望人類能夠通過做出明智的選擇，來避免最糟糕的結果。他進一步解釋：「歷史的研究重點並非‘過去’，而是‘變化’。歷史能告訴我們，什麼是恆常不變的，什麼是正在改變的，以及變革是如何發生的。」比如，我們回顧工業革命的歷史，不僅是為了了解蒸汽機的發明過程，更重要的是理解科技如何徹底改變社會結構及勞動模式，這樣的變化對現代社會有何啟示，尤其當我們面對人工智能時。

因此，這本書的價值並不在於AI有多危險，而在於赫拉利提醒我們，歷史上曾經存在的一種力量，能夠將人類組織起來，推動巨大變革，這種力量也容易失控。例如，20世紀的法西斯運動就是一個典型的例子，領導者利用煽動性的言論將群眾動員起來，進行一場場戰爭，並且犯下滔天罪行。同樣，現今的社交媒體也可能成為一種無法控制的力量，透過誇張或虛假的訊息迅速擴散，將人們推向極端。

當我們討論個人與群體行為的差異時，可以想到日常生活中的一個例子。當一個人獨自開車時，通常會謹慎遵守交通規則，但當他參與一場汽車遊行或競技活動時，可能就會受到群體的影響，做出超速、闖紅燈等危險行為。赫拉利指出，個人通常更理性，而當一群人透過某個資訊網絡聯繫在一起時，往往容易做出愚蠢、瘋狂甚至邪惡的行為。納粹政權下的猶太人大屠殺正是如此，今天的網絡謠言也可能引發類似的群體行為，這讓我們不得不警惕未來AI的潛在風險。

赫拉利最大的擔憂是，科技的進步並沒有讓人類群體變得更有智慧。想像一下，我們的手機應用程式提供了極為便利的導航和資訊查詢功能，但它們也可能因誤導性資訊或設計瑕疵而讓人做出錯誤決策。例如，有些人過度依賴導航，甚至不再檢查路況，導致進入錯誤的路徑或陷入危險的環境。這種科技依賴的現象正說明了，工具的進步並不一定讓使用者變得更聰明或更謹慎。

接著，我們來探討什麼是「資訊」。在物理學與計算機科學中，資訊被定義為「熵」或「克服了多少不確定性」。然而，赫拉利所談的「資訊」更多的是歷史意義上的資訊。他將資訊觀念分為三種，第一種是「天真的資訊觀」，或可稱為知識分子的資訊觀。這類觀念認為，掌握的資訊越多，就能更接近真理並獲得力量。例如，當我們生病時，我們依靠醫生提供的藥物資訊來治療病症，或當我們計劃旅遊時，我們查閱交通資訊來安排行程，這些資訊使我們能做出更好的決策。

然而，天真的資訊觀有其局限性。舉例來說，有些人會認為，只要社會上提供了足夠多的科學知識，人們就會明智地採取行動。就像你可能覺得，如果每個人都懂得健康飲食的知識，那麼肥胖問題就能解決。但事實上，僅僅掌握了資訊並不足以保證人們會依照這些知識行事。很多時候，虛假或誤導性的資訊，甚至是某些情緒化的訊息，反而更能驅使人們做出決策。

赫拉利指出，天真的資訊觀的缺陷在於，它沒有充分考慮到虛假資訊的作用。舉個例子，一些流行的迷信或者都市傳說，比如「喝鹽水可以預防感冒」，雖然缺乏科學根據，但仍然被廣泛傳播，並讓許多人深信不疑。這種虛假資訊之所以能夠吸引群體行為，正是因為它強烈迎合了人們的情感需求或認知偏差。

此外，還有一些資訊無法以「真實」或「虛假」來衡量。比如音樂，它只是音符的排列組合，但卻能引發我們強烈的情感共鳴，甚至促使一群人進行協調的行動。想像一下，一場音樂會的現場，人們因為音樂的律動而齊聲合唱、跳舞，這也是一種信息傳遞的結果，但我們無法說這樣的資訊是「正確」或「錯誤」。這類資訊的存在挑戰了我們對於資訊的簡單定義，也提醒我們，未來我們可能面臨更多難以判斷的資訊形態。