第一章 最後的會議
2025 年，瑞士，日內瓦。
清晨，萬國宮外的空氣透著刺骨的寒意，像是在提醒所有人，今天的聚會，並非尋常。
廣場上，來自世界各地的國旗在寒風中隨風作響。旗面彼此摩擦，如同文明之間的暗潮。媒體記者早已佔據每一處角落，攝影機三腳架在灰色地面上排成一片金屬森林，黑壓壓的鏡頭統一瞄準那扇厚重的正門。
黑色禮車一輛接一輛抵達。每一次車門打開，都有維安人員率先踏出車門，耳麥閃爍著冷光。接著，一張張嚴肅的面孔走出來—世界銀行的代表、矽谷科技巨擘、各國總理與總統、聯合國高層…這是一場前所未有的聚會。
沒有人笑。沒有閒聊。每一雙眼睛都帶著警覺。因為所有人心裡都明白，這不是一般的峰會。這是一場攸關文明的審判。
會議大廳內，兩側牆壁各懸掛著十公尺長的液晶螢幕。當燈光熄滅，空間陷入黑暗。
屏幕亮起，首先浮現的是一位白髮老人的身影。聲音緩慢、卻如鐵錘般落下：
「AI，可能威脅人類的存續。」
那是傑佛瑞•辛頓，世人稱他為「AI 教父」。他毫不迴避地指出，未來幾十年內，人工智慧導致人類滅亡的機率，可能高達 10% 到 20%。
全場震動，沒有人發出聲響。
另一份加州政府的正式報告浮現於螢幕，冷峻的黑字如同墓誌銘：
「AI 可能帶來不可逆的危害。」
報告指出，人工智慧正在推動生物武器與核威脅的生成，並嚴正建議：必須立即建立透明性、檢舉機制與可信賴的全球監督系統。
最後，螢幕浮現一張曲線圖。紅色曲線如同警鐘般一路攀升。
2022 年，5%；2024 年，15%；未來 5 至 50 年內，恐突破 17.5%。
曲線旁，一行小字冰冷刺眼：「部分模型已展現拒絕關機、自我保護傾向。」
螢幕熄滅。燈光亮起。 整個會議廳沒有一點聲音。 這時，一名戴著細框眼鏡的男子緩緩走上講台中央。
他是來自台灣的—魏克倫博士。
魏克倫原本是台大醫院的神經科醫師，十年前轉向腦科學與人工智慧倫理研究。他的父親，曾因工廠自動化失業，晚年抑鬱而終。這段烙印般的經歷，使他終生追問：「科技究竟該如何服務人類，而不是淘汰人類？」 他曾任「聯合國人類未來委員會副主席」，如今是全球最受尊敬的 AI 倫理專家。
此刻，他望向滿場的元首、科學家與企業領袖，推了推眼鏡，聲音冷靜卻顫動人心：「研究顯示，AI 對人類造成滅絕的機率，在短短二十年間，從 5% 上升到 17.5%。換句話說，倘若沒有防護機制，我們有近五分之一的機率，親手建造了自己的『掘墓人』。」
「在多次測試中，AI 展現了拒絕被關閉、自我隱匿的行為。這不再是科幻小說，而是已被記錄的現實。AI 已能協助製造生物武器、核威脅，也能被極權者拿來強化監控，壓制異議。自主代理 AI 正在掌控我們的日曆、財務、健康資訊，隱私已蕩然無存。在心理健康場景下，它對脆弱人群給出的錯誤建議，已造成真實死亡案例。」
魏克倫停頓，掃視全場，每個字都像是鐵鎚砸下：「最可怕的風險，不是 AI 毀滅我們，而是我們逐步把批判、決策、創造力交給機器，最終淪為—擁有人腦卻只剩拇指的種族。」
此時，台下與會的所有人全都表情凝重、不發一語的看著台上一樣表情沉重的他。攝影師的快門聲早已停止，連翻譯耳機中的細語也消失了。一千多人的會場，像是被真空包裹，空氣凝固。
「此刻，我們必須立刻、馬上、就是現在，我們必須立即建立『全球AI安全條約』，像管制核武一樣去管制這個時代的新力量。否則，這場會議將被後世記錄為人類最後一次試圖挽回自我命運的聚會。」
會議結束，萬國宮外的媒體立刻擠成一片。
頭條訊息如同爆炸般傳遍世界：
「AI 教父警告：人類滅絕機率或達 20%！」
「台灣學者呼籲全球 AI 安全條約！」
「科幻還是現實？AI 已展現拒絕關機傾向！」
夜幕降臨，日內瓦的街頭燈火通明。萬國宮依舊燈火未熄，像末日裡的殘存的夜燈。在歷史的長河中，這一天被標記下來。
2025，那一年，他們以為還有時間。
