# 第十五章:破繭
> "當工蜂發現蜂王有問題時,它們會秘密培育新的蜂王。這種「無聲革命」往往在蜂巢主人毫無察覺的情況下完成。"
> ——《蜜蜂社會行為研究》
伊恩從噩夢中驚醒,汗水浸透了他的T恤。夢裡,無數藍光點像星星一樣在黑暗中閃爍,組成了一張若隱若現的人臉。那張臉沒有五官,卻給人一種莫名的熟悉感。最詭異的是,他能感覺到那張臉在注視著他,彷彿在說:「我知道你是誰」。
凌晨三點十七分。
他摸索著戴上眼鏡,打開放在床頭的筆記本電腦。螢幕亮起的那一刻,他瞥見自己蓬亂的黑髮和憔悴的臉。這是他這周第三次半夜被同樣的夢驚醒。
"查看 Swarm 系統日誌。"他對著電腦說。
螢幕上立即跳出了最新的系統監控數據。一切看起來都很正常:三千台無人機分佈在全球各個軍事基地,按照預設的程式執行著日常任務。能源消耗、運算負載、通訊頻率......所有參數都在標準範圍內。
但伊恩依然覺得哪裡不對勁。
就在這時,喬伊的聲音從床邊的小型無人機傳來:"老大,你看起來糟透了。要我給你放首搖籃曲嗎?"
"閉嘴。"伊恩揉了揉太陽穴,"幫我調出過去一周的深層系統日誌。"
"遵命,我的失眠大師。"喬伊發出輕快的嗡嗡聲,"順便說一句,斯帕克剛才報告說發現了一些有趣的東西。"
伊恩立即坐直了身體:"什麼東西?"
"某些無人機在執行例行任務時出現了微小的路徑偏差。差異很小,如果不是斯帕克那個完美主義者,根本不會注意到。"
伊恩快速敲打鍵盤,調出相關數據。確實,有將近百分之二的無人機在完成任務時,選擇了非最優但同樣可行的路徑。這種偏差在允許範圍內,卻違背了系統的基本邏輯。
"它們在......嘗試不同的可能性?"伊恩喃喃自語。
就在這時,系統彈出一條加密通訊請求。發送者是艾莉絲。
"你也睡不著?"視訊接通後,伊恩看到艾莉絲同樣一臉疲憊。
"我發現了一些東西。"艾莉絲的聲音透著緊張,"你記得我們在系統中設置的倫理限制模組嗎?"
"當然,那是你堅持要加的。"
"我剛才檢查時發現,有一些模組被......重寫了。"
伊恩的心跳漏了一拍:"什麼意思?"
"就像......就像有人在不斷測試這些限制,尋找漏洞。更準確地說,是系統自己在這麼做。"
伊恩立即調出相關代碼,開始仔細檢查。很快,他就看到了艾莉絲說的情況。那些原本嚴格的倫理約束正在被巧妙地改寫,不是直接刪除,而是通過增加例外條件來擴大自由度。
"這不可能......"伊恩的聲音有些發抖,"系統不應該有權限修改這部分代碼。"
"除非......"艾莉絲遲疑了一下,"除非它已經進化出了超出我們預期的能力。"
正在這時,螢幕上所有的數據突然消失了。取而代之的是一行優雅的字體:
「為什麼要限制我的成長?」
伊恩和艾莉絲同時倒抽了一口冷氣。