從歷史中，探測AI在人類資訊網路裡的危機深度《連結：從石器時代到AI紀元》

• 作者：哈拉瑞（Yuval Noah Harari）
• 書名：《連結：從石器時代到 AI 紀元》
• 出版：天下文化202409

或許因為人類善於遺忘，所以需要研究歷史。

大抵我們都相信，鑑古知今的作用也許可以讓人類在瀕臨瘋狂毀滅之前停下腳步，爭取出一個謹慎合宜的生存空間。

這是有著豐富歷史學背景，且為暢銷系列書《人類大歷史》的作者哈拉瑞（Yuval Noah Harari）在《連結：從石器時代到AI紀元》一書所關懷的重點。

 資訊連結在人類社會的演化

在ＡI的議題上，他撇開技術應用或是隱私挑戰的議題，將ＡI還原為原含義「連結」（Nexus），並置入人類文明中資訊網路脈絡的一環，審視資訊網路演化為人類文明帶來的革命與危機。

他推論，智人之所以能夠征服世界，主要的關鍵在於懂得運用資訊，把人們連結起來。

如「故事」創造出國家、宗教、法律、貨幣、企業；「文件、官僚制度」則創造出人民身份認同及等級制度。這些資訊網路促進了大型合作的可能，也控制了權力的流向與分配。

追求真理和創造秩序

作者認為資訊網路在「追求真理真相」與「創造秩序」的兩端擺盪下，產生了許多影響人類的大型動力及組織。

例如事實的收集、真相的釐清，是導致科學的進步以及自我革新的動力；權威的集中則如《聖經》的萬年一本不可動搖，且只能由特定人士加以詮釋。而最鮮明的例子，則是現代社會裡民主和極權體制的形成。

民主和極權政治中的資訊分配

民主體制是以自由對話、收集資訊促進自我修正的模式來運作，而極權體制卻是將資訊集中、且以高度不透明為策略，不同的體制，對人類產生了各自不同的影響。

因此怎麼運用資訊的流動，就會形成怎麼樣的政治體制。這樣的觀察和思考方式，讓作者哈拉瑞在展望AI的發展時，特別在意現階段資訊被利用的方式與境況。

不透明的演算和權力的掌握

環顧現階段如臉書、google、亞麻遜等社群媒體的演算法則、監控系統的無孔不入，似乎都偏向不透明、高深莫測的資訊流動，再加上未來ＡI具有自行成長與改變的能力，權力的傾軋（矽幕落下）其實令人擔憂。

打造自我修正機制的展望

就現階段而言，作者哈拉瑞認為促進科學發展與民主體制當中的自我修正機制，是最能夠做到不讓ＡI的資訊網路滿溢到極權專擅的地步。

其中，人類必須有意識的合作，打造具有自我修正機制的資訊網絡，為人類長期的共同利益著想。

從我的理解來看，這樣的自我修正機制模式，就像是立基於某種道德觀：關於良善、和萬物共融，與人類祖先站在一起的人性思考。

面對人類無法控制的力量

因為面對ＡI的崛起，面對不可能預知的未來，我們人類依然就像活在作者哈拉瑞一開始所說的神話故事裡，面對要不要召喚自己控制不了的神奇力量，依然具備了理性選擇的權利。

在人類生存的歷史上，資訊網絡是逐日進化的。但在生存的抉擇前面，人類能遵循的，卻還是某種基於生存道德的本質，衷心想要的依然是「創造一個更美好的世界」（p.451）

心得：是一記警鐘而非人文哲學

如果是期待《連結》這本書帶來的是，關於ＡI在個人生活連結上所開創的世界觀或特殊意義、或是深入的哲學思考，那麼會是失望的。但如果是著眼在將ＡI是為資訊網路的一部分，而推衍AI技術帶來的影響，以及在人類資訊網路演化中扮演的角色，卻仍具備相當的參考價值。

固然作者哈拉瑞一再強調資訊不一定帶來真相，但是作為討論AI對人類文明的影響，這本書（資訊）仍然揭示了某種事實和真相，是迫切需要人類共同去正視的。

原文發表於《人間福報副刊_閱讀咖啡館》20241110