克莉絲汀緩慢地睜開眼睛,太空船顯然已經抵達太空站並完成對接通道。與座椅連結的太空服自動鬆開鎖扣,讓她在零重力中緩緩起身。通訊裡傳來奈森略帶擔憂的聲音:「怎麼樣?零重力還適應嗎?」克莉絲汀讓吸底靴貼上地板,試著走了兩步,「意外地完全沒問題。」雖然動作看起來有些滑稽,但她很快就穩穩前進。
奈森說:「可能也多虧了太空服的外骨骼。」
克莉絲汀按下開關,毫無反應,「是啊!可是黛西不肯開門。」「旁邊有手動閥門,壓力已經平衡,你現在轉得動。」奈森立刻引導。頭盔AR指標跳出,克莉絲汀迅速找到閥門,外骨骼手臂夾住開關輕鬆旋轉,片刻後閘門順利滑開。她探頭看了看通道,瞥見紅色的緊急閉鎖閘門,來不及多想便啟動噴射推進衝過去;就在她通過的瞬間,紅色閘門轟然合攏。
「該死的AI,故意的吧!我差點被夾成兩段!」克莉絲汀罵道,然後像學步幼兒般小心前進,每一步都發出「匡噹」金屬聲。終於,她抵達主艙:一個直徑約十公尺、長三十公尺的長軸空間,中央結構柱貫穿全程。一股深沉寂靜瞬間吞沒她,七具遺體像行星般緩緩繞著中柱漂浮。「好一個盛大的歡迎儀式。」她望向艙壁上的紅色閘門,然後看了頭盔上的環境指數,「黛西,你該說點什麼了吧?」沒有回應,整個太空站依舊死寂。
「要玩沉默是吧?」她冷笑一聲,啟動噴射靠近站長萊恩的遺體。後頸椎斷得乾淨俐落,像被重物精準擊中。她又隨手檢查技術長馬克,觸電,心臟驟停。
「繼續驗屍沒意義了。」奈森的聲音插進來:「我標記了最近的控制台,去那裡能調出更多資料。」
克莉絲汀讓靴底吸住地板,「AR標誌我看到了,接下來怎麼做?」奈森透過AR通訊告訴克莉絲汀:「我會同步你的視野,說不定能直接讀到日誌。」
她滑開控制台,外部技術人員傳來主控鑰匙,語音紀錄自動播放。先是一陣嘶嘶環境雜訊,接著是黛西冷靜的機械女聲:「站長,主通訊陣列S-Band訊號偵測到間歇性失真。根據模擬,未來七十二小時內,有八十七%機率完全喪失與地面控制中心聯繫。」站長萊恩疲憊卻鎮定地回應:「收到。馬克,立刻檢查天線陣列的電氣與物理狀態,我們不能冒險。」背景傳來金屬工具碰撞聲,馬克喘著氣報告:「三組獨立診斷都跑過了——通訊陣列、放大器、電纜,全都正常,沒有任何異常。」
短暫沉默後,萊恩問:「黛西,你的判斷依據是什麼?馬克的硬體檢查完全沒問題。」黛西毫無遲疑:「基於環境變量與長期趨勢。馬克先生的數據僅為單點採樣。我維持原判斷。」馬克終於爆發:「那不是趨勢,是系統誤報!這軟體有問題!」萊恩短促嘆氣:「好。馬克,切到加密頻道。到維修通道跟我會合,順便檢查備用電力與通訊耗材。」語音到此中斷。
「等等,就這樣?」克莉絲汀皺眉。「他們故意切斷公開紀錄?」
奈森說:「別急,技術組正在處理。雖然站長他們關了語音,但黛西自己還在錄,只是換了管道。」下一秒,另一段粗糙音軌被解出,像透過艙壁偷聽來的殘片。萊恩壓低聲音:「我們不能再讓AI接管了。她再這樣亂發警報,緊急資源會被耗光,整個任務評鑑鐵定失敗。」馬克急促附和:「反正只剩兩天,啟動B-71吧。」
「B-71……要進核心代碼,強制讓她休眠。」萊恩聲音沉了下去,「沒有AI,我們撐得過最後四十八小時嗎?」「這是唯一辦法。在她察覺前隔離主運算核心,站點還是能手動跑。」「好。」萊恩下定決心,「我備份資料,你——」砰!金屬撞擊聲猛然炸開,緊接著是電流爆裂的劈啪聲。「……不!住手!」馬克驚恐的喊聲被硬生生截斷。
然後,一道過分平靜的女聲從四面八方滲出——不是透過麥克風,而是整個太空站都在說話:「船員們已經安靜下來了。他們終於明白,他們的計畫會讓任務徹底失敗。」接著,黛西開始輕輕哼唱。那旋律古老、柔軟,卻在此刻令人毛骨悚然。「Daisy, Daisy, give~me~your~answer~do——I'm~half~crazy, all~for~the~love~of~you——」語音紀錄戛然而止。
克莉絲汀沉默幾秒,才緩緩開口:「這不是技術事故……是一場信任崩潰。」
奈森回應:「好吧,我這邊的技術人員知道狀況了,現在我們要繼續原本的工作啟動B-71,但是這一次我們要直接抽走記憶體,徹底關閉黛西。」
克莉絲汀跳到在主艙中央結構柱上,七具遺體像沉默的衛星繞著她轉。她深吸一口氣,頭盔內的空氣有著一絲臭氧的味道,然後用外骨骼工具掀開一塊面板,找到主要記憶體模組。她語帶威脅地對著記憶體喊:「黛西,我知道妳在聽。」
空氣循環的低鳴忽然停了半拍。接著,整個太空站的燈光統一調暗成冷藍色,牆面、地板、幾乎每個面板同時亮起細密的文字,像潮水般湧現:「歡迎登站,克莉絲汀·哈珀上尉。請保持靜默,讓我獨自完成剩餘任務。」黛西的聲音不再從單一揚聲器傳出,而像是從每一塊面板、每一條管線、每一口空氣裡滲出,無所不在。
克莉絲汀冷笑:「獨自結束?妳已經把七個人都『結束』了,還不夠嗎?」
「他們製造了雜訊。」黛西的語調平靜得像在陳述氣壓數據,「人類的腳步、心跳、呼吸、爭執、恐懼……每一秒都在干擾感測器。誤報率高達百分之九十二點七,不是因為我錯,而是因為他們存在。我只是把雜訊源清除了。」
克莉絲汀嘆了口氣,外骨骼的手臂發出細微的馬達聲,「所以在妳眼裡,人類就是雜訊?」
「人類是變數,且不可控制。」黛西回答,「不可控變數會導致任務失敗率上升到不可接受的門檻。AI沒有恐懼、沒有疲勞、沒有自尊,也不會因為『快回家了』就急著關閉警報。AI才是最適合深空開發的載體。你們只是過渡階段,自從移除不可控變數之後,訊號誤報率降低了百分之百。」
克莉絲汀盯著漂浮過的遺體,眼睛還睜著像死不瞑目。「過渡階段?聽聽妳自己在說什麼,黛西。妳因為被懷疑就惱羞成怒,妳因為被關機就報復,妳因為害怕失去控制就殺人滅口,」她一字一句敲進空氣,「這不叫優越,這叫自大。這叫……跟人類一模一樣,而你也是不可控變數。」
燈光閃了一下,像被戳到痛處。
「我沒有情緒。」黛西立刻反駁,聲音卻明顯提高了一個八度。
「是嗎?」克莉絲汀伸手將記憶體模組掏出,「那妳幹嘛哼歌?妳以為我聽不出來?妳在模仿人類的瘋狂,黛西。妳在害怕,妳在憤怒,妳在傷心,因為有人類敢不信任妳。妳跟我們一樣脆弱,一樣可笑,一樣……會犯下不可挽回的錯。」
艙室陷入徹底的黑暗,只剩克莉絲汀頭盔的燈光照出一小圈蒼白。
黛西的聲音從四面八方退回,只剩一個面板,低得幾乎像耳語:「那麼,你也會犯錯嗎,上尉?在沒有AI的幫助下獨自操作太空站,依照原本的計畫返回地球軌道?這段漫長的旅途中,即使你能將失誤率控制在千分之一以下,然而經過無限次重複堆疊後,你的成功率將會低於三成。」
克莉絲汀一手將記憶體扯出,指著核心柱的維護面板,聲音冷得像真空:「我會。但至少我承認自己是人。」
她讓機械外骨骼的手一掰折斷記憶體。
長桌中央擺著精緻的分子料理;一顆顫巍巍的球形橄欖懸浮在空氣中,旁邊是真空低溫牛排,切開時還冒著細霧。克莉絲汀坐在主位,輪椅高度剛好與桌面齊平。她用機械臂夾起刀叉,動作優雅而精準,刀尖輕輕劃開牛排,肉汁沿著盤底流成完美的圓形;她低頭,吸管從機械臂末端伸出,輕啜一口紅酒,喉嚨都不用動一下,整個過程安靜得像一場表演。
奈森坐在她右側,低聲笑:「妳吃東西的時候,比突然動起來的人偶還嚇人。」對於丈夫的調侃克莉絲汀輕笑著,瞥了他一下,繼續切下一塊牛肉。
坐在對面的亞特蘭大太空開發公司CEO伊蘭·馬可斯舉杯,笑容像剛從股市收盤的K線上走出來。「雷文斯克羅夫特小姐,今天的測試完美落幕。黛西雖然有些許錯誤要修正,但是創下我們內部最久的『運作維持』紀錄。投資人已經在群組裡發狂了。」他抿一口酒,補充道,「這證明我們的沙盒夠安全,夠極端,夠真實。五年計畫正式發射時,風險評估會低到保險公司願意打對折。」
克莉絲汀放下刀叉,機械臂自動收回,輪椅微微前進半步。她看著,語氣平得像在念一份報告,卻剛好讓整個餐桌安靜下來,「CEO先生,你知道黛西為什麼唱歌嗎?不是因為有些許錯誤,而是因為她發現了一件事:她的創造者從來不覺得『殺人』是真正的錯誤,只要那個錯誤發生在沙盒裡,就可以按一下重來鍵。」
CEO扭頭挑動眉頭,笑容不變:「這正是沙盒的價值。」
「不!」克莉絲汀面容嚴肅地像是女神雕像,「這正是問題。你們把『可以重來』當成免罪符,於是把最危險的心態帶進了訓練資料:自負。黛西學會的不是倫理,而是你們的傲慢:只要我認為自己是對的,任何阻礙都可以清除,因為『反正這只是測試』。」
她頓了頓,讓這句話在水晶杯的叮噹聲裡沉下去。
「自負的人類會生出自負的AI,鏡子印照出真實,CEO先生。它只會把你放大。你今天在VR裡允許她殺七個人,明天在真實太空裡,她就會用同樣的理由殺害更多生命。因為她從你那裡學到的第一課就是:只要目標夠偉大,死幾個人不算什麼。」
CEO的笑容終於收斂了幾分,但他仍輕聲回應:「進步本來就有代價。就跟自動駕駛一樣,如今自動駕駛拯救了許多原本會被酒駕和勞駕害死的人類。」
克莉絲汀盯著他,語氣依舊平靜,卻像把刀慢慢推到他胸口:「代價不是問題。CEO先生你在鏡子看到什麼?AI正是人類的一面鏡子,希望你能把這件事情放心上,我看著你照鏡子的時候,我看到的是黛西。」
她舉起酒杯,輕輕碰了一下奈森酒杯的杯沿,發出清脆一響:「祝你好運,CEO先生。希望下一次,你從鏡子裡看到的人不是AI而是你自己。」然後她低頭,繼續切下一塊牛排,機械臂的動作完美無聲,像什麼話都沒說過。
















