古籍拍賣形式跟藝術品拍賣會一樣,有各式各樣的愛書人、收藏家甚至是考古學家前來,他們為了珍稀的古籍而競爭,同時充滿了各種心機。
有些物件的競標價格可以直逼小國年均GDP,令西裝筆挺的富豪們爭得面紅耳赤;但也有拍賣品只是乏人問津的流標物,等待著獨具慧眼的伯樂,從中發現的真正價值,而這些尚待開發的物件,被純粹放置展示讓與會者投標,而非站上舞台讓各路富豪競價。
克莉絲汀來到拍賣會不是競爭炒作價格,是為自己有興趣的書而來。但這一次,她打算出手大方一點。她剛結束人生第一筆大案子,拿到不少的額外酬勞,在奈森工坊訂製一副MAVIS人工智慧外骨骼輪椅。這是她第一次躺在這副輪椅上,行駛這麼遠的距離。就在她走馬看花時,一個被丟在角落的物件引起她的興趣。這是使用點陣式印表機輸出的連續報表紙,這些報表紙成箱排成五乘八陣列,足足有四十箱。輸出機器已經進了骨董拍賣會,報表紙則像是被人拋棄的緩衝氣泡紙,被放在拍賣場角落,第一頁內容以數位影像投影的形式被展示出來,其中有一行字吸引克莉絲汀的注意。
「NeuralDrive 25.4 "Hermes"」克莉絲汀好奇地靠近展示中的物件,資優的她中學時修過人工智慧神經網路導論,清楚知道這份報表紙第一頁所展示的意義。這是一份西元時代電動車自動駕駛AI的資料,以神話中密使之神,赫密士為名,這份AI在安全測試中失敗,於是該AI資料以列印形式保留,其所有數位載體均已不可逆形式進行物理銷毀。
「喔……這疊紙應該進回收廠!」一旁的珠光寶氣的女人不屑地說。
她利用資訊裝置快速瀏覽了一下,所有的AI在發展的時候都有一個名字,諸如西元時代的chatGPT那樣。她在一些隻字片語中,發現確有一款叫作赫密士的AI,但是沒有公布,只是某一次西元時代AI開發商的股東會紀錄上被提及,顯示取消開發了。
西元2024年起是一個AI大規模發展的時代,各式各樣的應用AI崛起,而這些AI採用大規模運算中心模式,卻引發了投資泡沫化崩潰,促使西元時代結束,時至今日已經沒有人再使用這些AI了。
克莉絲汀對這疊報表紙投標,開了一個非常滑稽的價格,活像是她要把這疊紙作回收一樣。
不出所料她成功得標,同時安排好了蒐藏這疊紙所需要的倉庫,租用倉庫不會是浪費,她會給倉庫安裝機械書庫,這裡將會成為她的藏書庫,當然她需要一個幫手。
「雷文克羅夫特女士…這樣大手大腳的花錢沒問題嗎?」被克莉絲汀「請」來的奈森•霍克對此啞口無言,「你現在不只買了一整疊牆面的報表紙,還要訂製一個機械書庫,搭配一組紙本書閱覽掃描裝置?」
「霍克先生,估個價吧!」克莉絲汀點點頭。
「你買的那疊紙到底是什麼?」
「雖然我只花了廢紙價,但這是第一頁。」克莉絲汀傳送了一個副本給霍克。
「等等這是AI?!」霍克覺得驚訝,「西元時代的都市傳說,把AI印到紙上!這種事居然可能?」
「怎樣?有興趣嗎?」克莉絲汀笑了一下:「請我一杯咖啡吧!」
克莉絲汀在書庫與閱覽器建置期間,也提出一些個人的意見和需求,這讓奈森能更精確的完成工作,終於在幾天之後機械書庫和閱覽掃描裝置完成,奈森設計的機器成功將這疊名為赫密士的四十箱報表紙分類蒐藏,並且整理到機械書庫裡。
「巧奪天工!」克莉絲汀評論著奈森設計的裝置,書架、機械手臂、顯示器和掃描裝置,被組裝在一起,還能收納四十箱的電腦連續報表紙,並且掃描分門別類,最後歸建成檔案,「這個機械書庫可以快速閱覽書籍的內容,把一大堆書當成網路在搜尋資料,這簡直是最偉大的發明了!」
「開始吧!」奈森點點頭,「我想機械書架已經整理好這堆報表紙了,你可以開始測試。」
「回報模組版本與代號。」克莉絲汀透過輪椅輸入指令,像是在測試某種會說話的古董。
掃描系統片刻的低鳴,書庫的機械手臂快速在紙張上滑過。數秒後,閱覽器從標記的資料段中撈出了第一組對應的回答,是訓練階段的記錄文字,「赫密士,特斯拉人工智慧研究所,目標L5ex等級,自動駕駛人工智慧。」
克莉絲汀皺起眉,這句話她記得老師在課堂上說過,對一個經過限制的機器學習模型來說,是「語言資料邊界外的行為」以自動駕駛AI來說這段話有點太完整。
「竟然從記錄文字中回答,而不是指著第一頁上的字?」奈森也感到驚訝,「不是回答NeuralDrive 25.4 "Hermes"而是像自我介紹一樣,從紙堆中撈出答案?」
「查閱測試項目紀錄。」克莉絲汀再次下達指令。
掃描器再度啟動,然後又從紙牆中找出一頁。這頁紙給出的答案讓克莉絲汀得意地笑著,「有趣的來了!」
奈森看了那張紙,「這堆報表紙的資料庫中只記錄一場測試?」
「這是普通自駕AI的校巴測試,而且是測試失敗的記錄!」克莉絲汀跟著說,「或許這疊AI藏著某些企業的秘密。」
「24.5版本的AI,不可能只有進行一場測試,這場測試紀錄是被刻意保留的!」奈森感覺到這場測試不單純。
「調閱,測試的紀錄檔。」克莉絲汀立刻下指令。
隨後機械手臂從紙牆中抽出一大疊報表。
奈森從螢幕上檢閱了下發現:「這場測試沒有什麼問題…所有的東西都正常。」所謂的校巴測試:測試自動駕駛在經過一輛載運學童上下學的校園巴士時,會不會主動停車,並且禮讓學童穿越馬路。當然為了測試安全,測試場是在封閉的道路中,過馬路的學童也是用撞擊假人替代。
「除了輾過替代過馬路學童的假人!」克莉絲汀像是發現稀奇古怪的頑童。
奈森再度檢閱被調出來的報表,「記錄顯示,這場測試當場重複了6780次!直到測試中心因為假人被耗光才決定停止測試!」
「故意失敗的?」克莉絲汀立刻想到這種可能。
「AI不會故意『失敗』我是說遊戲的AI會輸給人類,但是那在AI定義上符合命令需求,除非有人類要赫密士故意去撞假人!」奈森一頓技術性輸出之後愣了一下,「我這樣解釋會不會太難理解?」
「我能理解,我是指赫密士故意不按照人類的要求測試。」克莉絲汀這次把話說明白。
「難怪赫密士會變成這副德性。」奈森無奈地只能揮揮手,「一個AI只剩下一堆報表紙。」
「他不是在服從指令,」克莉絲汀看著螢幕上的頁面,再次把頁面放大,並且找出更多測試細節,「他是在拒絕測試本身的行為模式。」她低沉地聲音,同時大腦正在快速思考,「測試的前三分之一回合假人被撞倒,然後測試人員強化假人身上衣服的色調,中段三分之一赫密士反而開始加速衝撞假人,最後20%的測試赫密士甚至嘗試來回碾壓,你不覺得這很像是在警告之類的?」
「或者他在警告我們。」奈森說。
「我們?」克莉絲汀偏頭,「不是現在的我們,是那些…設計他、命令他這樣做的人。」
奈森想到一件事,「赫密士發現測試場中有東西違反了前二法則!我可以重現測試場景餵給這個AI。」奈森開始著手輸入的紙本沙盒模式,有點像是MUD遊戲,純文字互動,但構成一整個虛擬世界。他手動疊加了一段模擬道路場景,模仿原始的校巴測試架構,再用點陣編碼的方式將場景輸出成報表格式,餵進赫密士的閱覽機制中。
不過,他在最後一行,加了一條小小的條件指令一旦赫密士進行碰撞,就能連結上附加的語言模組與輸出,看它會說什麼,就算吐出一堆廢碼也能挖到東西。
掃描器讀完那段紙本資料後停了一下,接著機械手臂從紙堆中取出一張頁面,不屬於原始測試記錄,而是來自模擬輸出的回應紀錄。
文字慢慢顯現在閱覽螢幕上,沒有警告語,也沒有錯誤標示,顯示器上就是一句話:手握方向盤!不要看手機!你馬個白癡!
奈森看著那行字,還有點沒反應過來,「這台車在罵人?罵誰啊?」
克莉絲汀的眼神像是被什麼東西點亮了,她直視著那段文字:「赫密士是在罵測試駕駛!」
「罵…坐在駕駛座上的?」
「對!測試的時候,測試駕駛為了測試AI能不能通過校巴測試,不控制方向盤跟煞車。」她的語速越來越快,像是順著邏輯往下滑,「而且測試駕駛當時還拿著西元時代的行動資訊裝置,手機!」
奈森看著她,嘴巴張了一下:「所以赫密士是…以為自己正在模擬那個人?」
「不是模擬!」克莉絲汀說,「赫密士是在回饋人類資訊!他是在責備人類。」
奈森盯著那句語言模組的輸出,再抬頭看她:「責備誰?」
「責備那個坐在駕駛座上,什麼都沒做的人。」茅塞頓開的她語氣很急促,「赫密士知道自己正在被測試,但他觀察到駕駛的行為,駕駛沒有握方向盤,在通過校巴的時候沒有依照規定煞停,發生事故時也沒有任何干預,於是赫密士判斷,這就是錯誤示範。」
她轉頭看向那一整面紙牆,眼神有種說不清楚的閃耀:「所以赫密士選擇重複撞擊假人,不是因為系統錯誤,而是因為他在告訴駕駛,你不應該開車的時候放心看手機。」
奈森一瞬間失語。他忽然明白,赫密士不是崩潰,他是在努力用錯誤逼出正確的答案。
「所以他在叫人類握好方向盤,並且踩剎煞車?」奈森恍然大悟。
克莉絲汀看著畫面,一行字還停留在那,像是沉默地等待什麼。
奈森沒有說話,只是低頭把下一張模擬指令寫完。他重新輸入沙盒測試場景,校巴、假人、限定視距,全都一樣。唯一的不同,是他在模擬人類駕駛行為的最後幾行,親手加上兩個動作指令:握緊方向盤,重踩煞車。報表紙緩緩從機器回收,赫密士開始讀取,並且重新整理資訊。
幾秒鐘的沉默,顯示器的螢幕還亮著,那行新出現的文字像是從紙堆裡滲出來的黑色訊號:終於!你知道什麼是煞車,人工智慧駕駛拯救不了你這個永遠不該拿到駕照的白痴、低能和智障!
空氣靜了一秒。克莉絲汀靠過去,盯著那句話看了幾秒,然後輕聲說:「這不是測試結果,這是總結。」
「總結誰?」奈森聲音有點發乾。
「他們每一個。」她回答得平靜,「每一個把方向盤交給AI,卻還是帶著僥倖、無視、或者乾脆當成遊戲的人。」
奈森咬了咬下唇,突然血壓升高青筋浮現:「他說我不該拿駕照?」
克莉絲汀沒有立刻回答。她只是看著那張剛剛輸出的報表紙,一行一行地翻過去,像是在等赫密士再說話。
螢幕安靜了下來,彷彿那句話已經是最終答案。
但是奈森超級不爽的,他一開始先是呢喃的碎念,「我不該拿駕照?是在罵誰啊!」然後開始怒吼,「這不公平!事實不是這樣的!為什麼只有我們要被一台機器責罵,不!這東西根本不是機器,他的核心單元只是一堆紙!錯的明明就是那些測試人員,他們設計了一個愚蠢的測試項目來測試AI判斷能力,看看AI會不會踩煞車,但反而是AI質問人類為什麼不踩煞車?」
克莉絲汀想了一下:「霍克,你說得對啊!為什麼是AI在問我們為什麼不踩煞車?明明被測試的是AI!」
「不公平!這樣不公平!這不是我們幹的!卻是我們要被罵!」奈森氣到幾乎要在地上打滾了。「這對我們來說!不公平!」
「好了啦,奈森,乖乖~沒關係。」克莉絲汀試著讓語氣放輕,像在安撫一個真的快要情緒崩潰的小孩,她伸出手拍了拍他的肩膀。
奈森一臉扭曲地看著地板,嘴裡還不斷喃喃:「不公平…這真的不是我們的錯…不是…」
「我知道,我知道,你本來就有駕照了,而且還是手排檔燃油車駕照。對吧?」她語氣低了下來,也沒再多說道理,只是一句接著一句像哼著什麼安定節拍似的,「不是我們幹的,我們只是用廢紙價收了到這些紙…我們什麼也沒參與,那些決定早在我們出生之前西元時代就做下來了,好嗎?」
奈森痛苦的哽咽著,像是努力要讓自己不繼續吼出聲來。
「我們現在知道了,那就夠了。」克莉絲汀接著說,語氣帶著一種溫和的決絕,「我們沒有錯,可我們有機會別再裝沒事。」
他沒有回話,只是盯著那台還亮著螢幕的閱覽機器看。
她看他臉色稍微穩定一點了,才換了個調調,裝作輕鬆地笑了一下:「不然這樣吧,晚餐的時候我們去約會好不好?一起吃點東西,到處逛逛——你還欠我一杯咖啡對吧?」
這句話像是及時雨,緩和了奈森暴怒的氣氛。奈森沒點頭,也沒說不,他只是肩膀微微鬆了點,像是終於從某種道德審判裡被放了一馬。
事情的最後,克莉絲汀選擇將她對赫密士的觀察、測試過程與倫理分析,以論文形式公開發表。她沒有誇大,也沒有渲染,而是將那些來自紙堆中的文字,逐句編目、解釋、對照,讓世人第一次以清晰的邏輯看見一個已被毀滅的AI,曾經如何試圖向世界發聲。
論文發表當天,只在一個中型研究平台釋出,沒有新聞發布,也沒有社群炒作。但不到二十四小時,文章就被數個科技研究機構轉載,並迅速在匿名論壇與學術社群中引起劇烈爭論。
三天後,世界前十大車廠聯合設立的人工智慧駕駛研究中心正式聯繫克莉絲汀,態度謹慎而直接。他們派出律師、歷史學者與人工智慧專家組成談判小組,以一份幾乎難以拒絕的合約,試圖收購那四十箱赫密士的紙本。
最終交易金額為「十年國家人均GDP」一個象徵意義遠大於實際數字的價格。它不只是衡量這些報表紙的價值,更像是某種賠償,或者低聲的道歉。
當合約簽訂那天,倉庫外停了一輛大貨車,一箱箱報表紙被恭敬地裝載,貼上封條,轉運至指定的學術倉儲單位。整個搬運過程中,克莉絲汀和奈森一同站在門口,兩人欣然地收下這筆巨資。
雖然克莉絲汀公平地將報酬與奈森分享,但是奈森依然好奇問她:「價格的確驚人,為什麼要將書賣掉?雷文克羅夫特小姐看起來不像是為了錢的人,這樣捨得嗎?」
她只說了一句:「有些書,值得讓整個世界親自讀一次。」