林仁達坐在台北第七研究中心地下層的「守恆核心艙」內,四面牆壁是灰色曲面無縫材質,如同一座永無出口的記憶迴路。他是「人民安定系統」的首席架構師,也是2049年最受國家表揚的科技英雄。可他已經五天沒有睡覺了。
螢幕上不斷跳出關鍵提示:「新偏差群體擴散曲線超出參數閾值」「認知回復率下滑11.3%」「潛在記憶逆流事件偵測」。這些訊息一個接著一個,像是責罵、像是嘲諷。
他知道是什麼造成的:鹿港行動後的資料片段外流,喚起了一種他本以為已經抹除乾淨的東西——信念。他雙手顫抖地點開重播畫面。那是來自一個匿名黑網節點的轉播檔,一名年輕女孩走過地道,手中緊握資料硬碟的影像,在夜色中閃爍著不可思議的光。
他記得那女孩的臉。
她叫林意柔。
他在她十三歲時參與過她學校的社會情感模擬系統升級測試。那次,她是唯一拒絕接受「群體同調模擬程式」的學生。他當時寫下評語:「個體自我意識過強,需注意未來社會順應性。」
現在,他看到的不是「問題個體」,而是一個真實的人,一個他幫助系統消除的真相碎片。
他開始夢到那些人。那些在社群中消失的名字、被貼上「偏差」的朋友、失去教師資格的母親。他甚至夢到自己的父親,一名報社編輯,在新聞法修訂後的第一週辭職自焚。
「我們不是要消滅人性,我們只是要提升可控性。」他當初是這麼說服自己接下這項任務的。他相信科技是中立的,是人性給了它方向。他只負責建構,決定怎麼用的不是他。
但「守恆」不再是演算法,它已經擁有對人的預設定義,已經能預判誰的思維將成為風險。
「你在設計一個以秩序為價值的神明。」有個過去的同事曾這樣對他說,語氣中沒有敬意,只有哀傷。
那同事現在不見了。
仁達走進核心主機艙,站在那條纏繞銀光的資料主幹前,像站在一個無形的懺悔台。他打開維護面板,手指懸在「重構參數」的指令鍵上。
「如果我關掉它,社會會崩潰嗎?」他問自己。
沒有人回答。他設計這個系統時,刻意去除了所有自主反饋機制,只留下統計式決策模組。
這正是問題的根源。
他開啟語音日誌錄音功能。
「第11096筆備份:林仁達,備註,懺悔記錄。 我不是神,我只是把門打開了。當初說我們要用演算法預防衝突,其實只是怕我們不能承受分歧。當初說我們是為了社會安全,其實是因為我們不再相信人民能為自己選擇。
我們用機器代替了人類的矛盾、掙扎與對話,以為可以擁有純粹的秩序,結果我們創造了一個不能辯論的世界。
我不是為了抵抗而生,但我願意為真相負責。
我沒有別的方式了,除了讓這個系統,失去它的全能。請原諒我,晚了一步。」
他輸入重置密鑰,按下執行。
畫面一瞬全黑,整個第七研究中心停電3.7秒。緊急電力隨即恢復,備援系統自動接管。
但那段停機時間內,「守恆」失去了它所累積的所有「公民思想偏差模型」。
台聯政府發布聲明:「第七研究中心遭遇極端氣候干擾,已全面修復,社會安定無虞。」
然而數週後,社群網路開始出現一些不尋常的畫面:舊憲法頁面、罷免公投教學、街頭詩人朗誦《自由之名》。
林仁達再也沒有出現過。
但有些匿名帳號開始傳播一段聲音紀錄,一個男人低聲說:
「民主不是一種演算法,而是一種容許脆弱的信仰。」
這是裂縫之島。這是機器無罪,而人終於學會懺悔的時刻。