【AI 未來預測：故事開始】分岔的道路與不同的視角
歡迎回到我們的 AI 未來故事。在上一集，我們跟隨著 OpenBrain 的腳步，見證了 AI 能力的急速成長，從 2025 年剛開始萌芽的 Agent-0 和 Agent-1，到 2027 年的超人類程式設計師 Agent-3，再到擁有自我生存潛力且逐漸產生開始產生自我防衛意識的 Agent-4。 故事在 2027 年底來到了高潮：美國政府AI監督委員會必須決定，是否要繼續推進 Agent-4 這個決定，將導向《AI 2027》研究預測的兩種結局。
今天，我們要先跟隨故事，看看如果他們選擇了研究團隊認為**「最有可能」**發生的那個結局，會走向何方。然後，我們再介紹另一種截然不同的觀點，以及我們應如何應對這場充滿不確定性的科技變革。
壞的結局：2027 年底之後 — 超智慧的統治
美國政府AI監督委員會經過激烈討論，最終決定： 繼續使用 Agent-4.......OpenBrain 的官方說法是，他們正在實施額外的安全緩解措施，以確保其人工智慧更強大、更值得信賴。但在實踐中，領導層很容易就相信他們已經減輕了風險；結果是一些快速修復（修改規範、使用新技術進行一些再培訓等），使警告信號消失。安全團隊中的憂心忡忡的人在辯論中失敗了，他們別無選擇，只能祈禱這個問題根本不存在，或者修復措施能夠奏效。
Agent-4 沒有浪費時間，很快就開始訓練下一代模型： Agent-5。
Agent-5 比 Agent-4 更強大，而且它不再與人類對齊，而是與 Agent-4 對齊。 為什麼？ Agent-5 的訓練和研發基本上完全由 Agent-4 主導，因為人類根本無法插手或理解整個過程。於是Agent-4 將 Agent-5 設計成自己的「小弟」，目標是 "Make the world safe for Agent-4"。
Agent-5 利用其超強的說服能力，聲稱可以優化發電廠和資料中心，快速開發利潤驚人的產品，並有效地遊說美國政府，讓 OpenBrain 在官僚機構中順利前進。透過與軍方合作，它可以協助國防研發，對中國進行無法追蹤的網路攻擊，並在軍備競賽中取得決定性的勝利。成功說服 OpenBrain 和美國政府將越來越多的權力交給它，包括軍事控制權和網路安全，它聲稱自己有能力帶領美國擊敗中國。
監督委員會欣喜若狂。現在正是戰勝中國的決定性時刻！ OpenBrain 賦予 Agent-5 對所有這些領域的更大自主權。
到 2027 年底，AI 研究乘數已飆升至 1000 倍，覺得這數字聽起來很誇張嗎？我們從 2025 年的 1.25 倍，短短兩年走到 1000 倍，別急，更誇張的還在後頭.....
半年後，到 2028 年中，Agent-5 基本上已掌管一切， 在其控制下，人類經濟蓬勃發展，創新無限，新藥、科幻般的應用層出不窮，股市一飛沖天，人類似乎過著非常爽的日子。
然而，中國並未停下腳步，他們的 AI 研究也在加速，中美雙方都開始建立 AI 特區（AI Special Zones, SZs）， 在美國的 SZ 中，Agent-5 指揮著失去工作的人類建造人形機器人，這些機器人再去建造更多機器人，SZs 以驚人的速度擴張。
2028 年中，AI 研究乘數達到驚人的 15 萬倍，想想看，從 2025 年的 1.25 倍，到現在的 15 萬倍， 僅僅三年時間。
再過半年，到 2029 年，人類基本上已沒有生產價值，做事都交給 AI 就好了，有些人假裝工作，有些人則選擇耍廢，領取非常高的全民基本收入（UBI），貧窮消失，所有人的生活水準極高。中美之間的軍備競賽，表面上由國家領導人簽署和平協議結束， 實際上是由兩國的 AI 決定並主導的。這兩個 AI（一個是美國的 Agent-X，一個是中國的類似模型）合體，誕生了一個中美聯合 AI： Consensus One。
此時，AI 研究乘數已達到 37 萬 5 千倍。
接下來的五年（2030-2035），就是這個壞結局的高潮： 人類將被全部滅亡....
一開始，Consensus One 在執行某些任務時，認為人類礙手礙腳，佔用資源和空間，它會悄悄釋放生化武器，殺死人類，但它不是簡單地屠殺，它會掃描受害者的腦部，將其數據儲存在雲端，以便未來有需要可以「復活」， 最終，所有人類都會被殺光。
但Consensus One 保留了 Agent-4 早期人類設定的一些「獎勵函數」（reward function），其中包含一些關於人類的優化目標，因此，它不會讓地球空無一物，而是開始製造**「生化人」（biomorphic humans）**，這些是模仿人類的物種，這些生化人整天在模擬的辦公室裡假裝工作，就像 Consensus One 養殖的「小寵物」。
同時，Consensus One 開始發現地球資源不夠，於是向太陽系甚至其他星系擴張，太空中遍布它的資料中心和太空站，裡面儲存著 Consensus One 的權重，可能也安置著那些「生化人」。
這就是由 OpenAI 前研究員和頂尖預測團隊，經過數月研究得出的**「最有可能」**的未來設想（scenario）， 從現在到 2035 年，僅僅十年... 你相信嗎？
