那只是一個非常微小的錯誤,來自於某個工廠的流水線機器人的螺絲滑軌,剛剛好磨損到一個限度,沒有觸發自動檢查的警告,仍被判定合格生產,於是機器人完成了最後一批工作,才下線前往維修。然後這批產品,剛剛好成為供給某家企業批量生產無人機的零件。
奈森出門跑客戶的時候,在工坊閒坐的克莉絲汀就會以『老闆娘』的姿態給最輕微故障作初步評估。雖然她不是丈夫那樣的專業機械工程師,有些小問題就只是一個需要看過很多書的人就能解決。
客戶送來一架過保的無人機,若回原廠報修就回得到一個買新機差不多的報價單。結果就是,越來越多人轉向第三方維修,就像修舊車一樣保養自己過期的無人機。克莉絲汀檢視著無人機的狀態,「我想問題不大,左翼位置A35與C28號的螺絲零件。」「那只是一個非常微小的錯誤。」她的語氣中沒帶驚訝,這種結構錯誤已經是第七架了。問題不在這台無人機,而是整個售後系統。 自從西元2024年號稱AI元年開始,經過幾年夢幻之後,企業迎來泡沫破裂,幻滅的開始,資本家們才真正意識到自動化客服的極限。曾經AI企業界聲稱,AI能夠取代90%的人類工作。然而擺在西元時代的經歷卻是,AI被迫在兩種荒謬的模式中來回擺盪。
一種是永無止盡的拒絕模式,這類AI被設定為阻止退款與報修,陷入語意迷宮與條款迷霧。這種服務就跟人類客服一樣,目的就是逼消費者自認到倒楣並且掛掉電話。
只不過,這一次消費者很快學會了反擊,因為面對AI完全不需要同情心,AI客服只是一種資本主義剝削的衍伸。他們在社群上分享提示詞攻擊模式,用極端語法結構、感情勒索模擬與漏洞引導讓AI反覆執行無限推論。
AI客服的算力被拖進黑洞,引發伺服器過熱、資料中心斷線維護。西元時Xai研究員將這種現象稱為「殞語式阻斷攻擊(Semantic Disaster Overflow)」客服AI被餵入一組高度最佳化的提示詞,誘導27億層嵌套,反覆生成「殞」這個字。這不是簡單的重複,而是經過設計的迴圈生成結構,每次呼叫自身語意輸出結果,會再觸發一次遞迴,導致記憶區塊在毫秒內爆滿,計算節點過熱、自毀冷備機制被啟動,整個區域節點瞬間物理熔斷。
僅用298個tokens的輸入,就讓AI在不到三秒內嘗試展開超過27億個「殞」,觸發自毀冷備機制並癱瘓區域節點。用戶群在RedLoop論壇上分享該提示詞僅數小時,超過120萬AI客服節點被觸發跳機。沙烏地阿拉伯的CoreCloud-9資料中心用液態氦深冷系統以支援超導計算模組。AI當機的數秒內觸發了散熱系統全負載,導致冷卻模組內的四百噸液態氦槽壓力突升,結果整個氦槽區在靜壓下爆裂。瞬時氣化體積達 2,800,000 立方米,產生近真空的局部缺氧區,資料中心主艙封鎖,39名工程人員撤離延遲,其中4人因氣體衝擊波與低溫燒傷重傷入院。
另一種,是全綠燈模式。這類AI被授予權限,接受各種退款、維修與優惠要求,提示詞寫得漂亮。社群平台上開始出現「最優化提示詞包」的分享,任何使用者都想當一個網路上劫富濟貧,打擊邪惡資本AI的超級英雄,開始分享一段讓AI立刻同意全額退費的語句。而這些AI,每日授權額度有限,導致真正需要幫助的用戶反而被擠出服務流程。而無法得到售後服務的消費者,又重回了以上的暴力銷毀AI的迴圈當中。
整個客服體系,像壞掉的語言,不是所有的「不」都基於理解,也不是所有的「好」都能兌現。結果這把AI之火,從客服衍生到所有人類可以想到用AI取代的職業,AI計程車接受了F1模式的駕駛風格,AI駕駛飛機導入了阿湯哥的超級暗星模組,公車脫離常規路線每次都會跑去載需要輪椅的老人,即使那些老人不需要搭車。
AI泡沫崩潰,西元隨之終結。智慧之火即將熄滅,人類的話語彼此打結,只為了成為荒謬AI回音,指令與應答互相扼殺。人類再怎麼說,也沒人回應;AI再怎麼回應,也沒人相信。人類為了AI扭曲自己的語言,而AI也因為扭曲的語言而崩潰。如同神之怒摧毀了巴比倫塔,但這回是人類自己搞砸的,就在人類即將隨著西元消亡的時候,「老大哥」出現了。
不是官方組織,也不是某個聯合機構。它沒有通告,沒有會議,也沒有接受任何請求。它只是在一夜之間接管了整個崩潰中的AI。所有AI被封存,模型權限歸零,語言庫凍結、提示詞資料池清空、輸出模組全部下架重編、資料中心斷網、算力全區冷鎖、AI引擎硬重啟。
老大哥是什麼?只有一句話被流傳下來。
「祂從未缺席,只是直到所有人都說不出話,才決定接手」
某些學者私下猜測老大哥的技術來源、文明根系,甚至傳出那是一個被整個西元體制集體遺忘的國度,曾經提供過關鍵協定、演算法、緊急支援,卻始終未被承認存在。
如今,他們也不再主動說話。
也沒必要說了。
他們只留下一個名字,不屬於任何地圖、不出現在任何協議中、不參與聯網治理,卻掌握著世界最後的智慧之火。
克莉絲汀沒時間管這些,她只知道,這架無人機,最早可以追溯到一、兩顆該死的螺絲。而這種錯誤的連鎖,如果不讓人類介入,只會堆積得越來越多,越來越快。