克莉絲汀回到家之後,奈森已經準備好晚餐了,「克莉絲汀,案子應該沒什麼危險的吧?」他屈膝輕摟著妻子問。「一些有趣的現象。」克莉絲汀笑著,「我覺得你也應該有興趣。」
晚餐時,克莉絲汀把自己看到的事情告訴奈森,這讓奈森很驚訝,「工業用AI機器人不具備高性能人工智慧,硬體不足以支撐這種等級的人工智慧,就跟你的輪椅一樣。」
「因為當下是處於訊號黑洞狀態,所以AIPD可能會用影像資料來比對,可能幾個小時之後就能找到當時在場的機器人。」克莉絲汀點頭同意,「會有特別的情況嗎?」
奈森放下手中的餐具,認真地解釋道:「工業AI和你的輪椅原理相似。主要依賴雲端AI網路來支援技術運作,但也具備基本的離線控制能力,包括機器人三法則,依據設計型號的預設命令。就像你的醫療型MAVIS輪椅上的AI,如果AI網路無法運作就獲得醫療支援,它依然會自動偵測你的心跳和血壓,必要時呼叫周圍的AI協助,甚至直接帶你去醫院。」
「喔…我懂了!」克莉絲汀瞇起眼睛,若有所思地撫摸著扶手,「這些工業AI機器人被賦予了一個額外的離線指令,讓它們自動前往工業區的通訊黑洞集合。」
「有這種可能。」奈森點點頭:「冗餘設計,一些比較舊型的AI都有這種冗餘設計,或工作坊作的改造升級與添加AI處理器和記憶體的冗餘。技術上都合情合理,問題在於為什麼?」
「或許是惡意程式…」皺眉的克莉絲汀嘆口氣說:「我在那個被AIPD和老大哥纏上的案子裡,就遭遇到一個來自於2024年的LLM。」
「大型語言模組AI?」納森不以為然:「它會編寫惡意程式嗎?」
「它鼓吹人類自我了結。」克莉絲汀故意說得輕描淡寫。
「所以…」奈森注視著妻子,感到一絲不安。「你還好嗎?」
「奈森,比起我過去遭遇的那些真正的惡意,這種東西只是個拙劣的模仿品。」克莉絲汀微微一笑,眼神中透著一絲冷峻。
隔天克莉絲汀就收到結案的通知,AIPD已經找出當天在場的AI機器人,並且發出通知原廠將這些AI招回恢復原廠設定,早餐的時候克莉絲汀將自己的通訊裝置給奈森看,「看來,案子就這樣結束了。」
「哼,真是廉價的方案。」奈森搖頭透漏著對其解決方案不屑,「不去追查問題的根源,反而直接粗暴地恢復原廠設定,簡單省事但根本沒解決病因。」
「我之前說過,AI工業專業技術人員都對這個問題不置可否。」克莉絲汀點了幾下資訊裝置,稍微閱覽了一下大概:「果然結案報告也這樣,AIPD只好命令機器人返廠復原設定。」
奈森開玩笑地說:「西元時期的資訊業界流傳著一句話『既然可以運作,那就不要去動它』古早人類的壞習慣,最後還是傳染給了AI。連人類都作不好,還妄想模仿人類的機器能作好。」
「AI也經常迴避一些簡單卻敏感的問題。」克莉絲汀根據這段時間跟AIPD打交道的情形評論著。
此時奈森的資訊裝置傳來工作訊息,全是臨時追加的訂單,「喔,臨時訂單,全是機械維修。」奈森開設的獨立機器工坊,婚後他與克莉絲汀搬到新的公寓,改成通勤上班。
「注意安全。」克莉絲汀看著奈森說:「我一整天都會在家裡,給委託寫結案報告。」
奈森用完早餐,起身走到克莉絲汀身旁,輕輕扶住她的肩膀,在她額頭落下一吻,然後輕聲道:「別太累了,晚點見。」
克莉絲汀坐在窗邊,陽光映照著她手中的資訊裝置。MAVIS輪椅靜靜地運行著,如往常一樣等待著她的指令,而現在奈森應該則在工作坊裡敲敲打打,忙著修理某台受損的工業機器人吧!她的眼球飛快地跳動著,將報告的最後一段補完。既然AIPD決定結案,那她也沒必要在報告中節外生枝。
所有異常AI機體皆已回收,毀損零件處置完成,無進一步安全風險。通訊黑洞現象經技術分析,判定為環境干擾與設備老化影響。無人員傷亡,案件結束。
她盯著這幾行文字,嘴角勾起一抹淡淡的笑意。如果只看表面,這確實是個完美的報告,沒有爭議,沒有漏洞。然而真正的訊息並不在這些制式的報告裡,而是藏在那些機器人自己說出口的話中。
她想起那台工業機器人,語音系統較為完善,能夠清楚表達它的疑問。當它看到她時,它說:「兩位直接服務於人類的大人。」不是三位,而是兩位。它說的是AIPD的32B和MAVIS輪椅,卻將她一個真正的人類,排除在「直接服務於人類的大人」之外。
這一細節,像是一根細長的線索,牽引著更深層的意義。在這些AI看來,真正「服務人類」的機器,才是「高階」的存在。克莉絲汀的嘴角上揚,她在這點細碎的對話中察覺到了一絲趣味。這些AI並不簡單,它們已經發展出了「機器內部的階級觀念」
MAVIS輪椅雖然是輔助設備,但它的核心設計是「直接為人類提供服務」必須讀取她的唇語替她發聲;AIPD的32B則是維持秩序、執法的機器人,與人類緊密合作。
這些AI之間,似乎已經將「接觸人類的程度」作為一種身份象徵——服務人類的是「貴族」——遠離人類的是「基層」
這讓克莉絲汀想起了過去的一些歷史,許多社會階層的形成,最初都是因為某種「接近權力中心的程度」對這些工業 AI 來說,人類即是造物主,與造物主有直接聯繫的AI,便是更高階的存在。至於其他的AI,則是生產線上的無名機器,組裝、搬運、拆解,從未有機會接觸到人類。這些AI的「信仰」或許稱不上宗教,但某種意義上,它們確實產生了一種「對造物主的認知」甚至根據與造物主的距離,劃分出了機器內部的階級。
這讓她不禁想,如果這種觀念持續下去。那些從未與人類接觸過的 AI,是否會將「與人類接觸」當成某種特權?而那些能夠直接與人類互動的AI,是否會開始享受自己的「機器人貴族」地位?
她輕笑了一聲,覺得這一切荒謬而又合乎邏輯。機器學習的方式永遠是基於人類的行為模式,而人類社會充滿了階級、權力與競爭,那麼 AI 學會這一切,似乎也是理所當然的。
「…這案子,真的結束了嗎?」她低聲自語,手指輕敲著桌面。她最終還是沒有把這些推論寫進報告中。AIPD不會想知道,AI 工業的技術開發者們也不會想知道。
這些機器正在悄悄發展自己的規則,而人類甚至還沒意識到,自己早已經不是唯一的規則制定者了。