〈睡夢中安詳離去的司機〉2023-03-31
近期，馬斯克在內的一些專家或意見領袖在一份公開信上表達了對於AI高速發展的擔憂。他們認為這種AI研發競賽應該要被暫緩，並呼籲我們應該先設立足夠的監管與安全機制，讓我們對這種發展可能帶來的巨大風險可以有能力抵禦。
由這些具有科技背景的人士來表述出擔憂對人類社會是有益的，他們的表態比那些更擅於戲劇性討論奇文軼事的網紅更具有代表性，一方面能讓更多人意識到風險的的確確存在，另一方面，影響力人士的出面制止，也能給予資本一種不持續朝那個方向蜂擁的抑制性驅動力。然而，我並不認為人類會有真正準備好的一天，尤其僅僅六個月。
許多人將這些呼籲風險的聲音視為一種眼紅式的著急，去嘲諷他們（尤其一直與AI發展保持緊密距離的馬斯克）想叫別人停下來是因為「自己來不及上車」。然而，事實上這份公開信最核心想做的事情，正是去制止open AI以外的科技企業因為這種眼紅式的著急而可能犯下的嚴重錯誤。
我們已經看到了google發布Bard時甚至沒能注意到錯誤所昭示的那種倉促、看到了令人懷疑的「中國版GPT」百度文心、也看到近期google、微軟等公司將結合了了AI的軟體與諸多模組套件陸續公布。科技界顯然進入了一種對下個世代科技主導權展開的軍備競賽。
這無疑是極度危險的，在AI足夠強大到本身就對人類帶來傷害之前，這種科技霸權的爭奪以及爭奪戰結束後的那種嚴重壟斷，就已經是近在眼前的、值得警惕的問題。遑論AI進展之飛速所伴隨的科技物本身的風險，同樣真實且難以估量。
不只是看熱鬧的網民，真正處於科技前沿的專家中，也有許多人並不認為這樣的暫緩有必要。雖然進步的確很快，但「一種與人類競爭甚至取代人類的意識」顯然並不是當前已經具備普及性的「語言生成模型」發展的方向。
的確，當前的AI模型並非如字面上的是一種"Intelligence"，就像智慧型手機一樣，它並不擁有傳統意義下的智慧或意識。並不會像「老高式理解」中的那樣去成為足以超越並宰制人類的意識主體。然而，因此便相信AI發展還不足以令人擔心的專家，其實高估了傳統意識能力對人造行為主體實踐的重要程度。
事實上，要引發人類社會的顛覆，它們絲毫不需要有傳統意義下的意識，我們完全可以預見，AI會在部分專家以為還早的某一天如同AlphaGo之於圍棋那樣做出人類只能夠興嘆的大師行為。
那時，一直存在於人類心中的素樸行為主義思路會直接地讓更多人不得不轉去承認「它至少具有某種意識」，那種所謂的「意識」和人類傳統意義下談論的意識有很大的不同。而在很多領域上，這種連原來的設計者都難以掌握其運作方式的「所謂意識」，將能更好地完成許多我們做不到的事。
聽起來不錯，但問題就在於，我們真的知道我們即將更有效地完成的是什麼嗎？
事實上，過往並不是沒有過這類討論。基因複製技術、基因改造技術、核反應技術都遭遇到倫理問題以及種種被人類社會認為有其必要性的限制。我並不認為人類的科技發展應該要在某個地方「就此打住」，也不認為人類有能力真正阻止時代巨輪前進。但我們要的是什麼？我們已經要了嗎？
人類社會很可能真的有必要在每個重大的發展階段裡慢下腳步，去共同思考、討論、並給出一種即便不夠完備但至少具共識的階段性人類整體答覆，然後才往下走。人類社會都還沒有完全地認識與消化社群媒體帶來的激化與對立、還不知道怎麼處理虛擬貨幣與資產對社會帶來的衝擊與相關監管問題，我們真的知道我們為什麼要進入下一個時代了嗎？我們有辦法在事情與人類目標出現明顯落差的時間點上，快速地做出反應嗎？
我們知道人類科技競賽曾帶來過哪些後果。運氣好的話，我們會踏上另一顆月球；運氣不好，我們馬上會迎來新的「小男孩」與「胖傢伙」。監管是一個重要的問題，但在那之前，人類缺乏的是那整體性的共同目的。
我們不能否認微軟對open AI的注資加速了科技發展，但這也為我們帶來公開信裡談到的「競爭與黑盒」的明面上的與潛在的問題。在這些科技巨頭對科技的把持下，我們沒有辦法相信open AI還能保持創立之初所重視的開源與獨立。
為了要在這項競賽中取得勝利，人類的整體命運被一併地推上前線。變化較小的情況下，更加懸殊的科技貧富差距會讓我們加速進入某種如既定印象（或更加糟糕）的賽博龐克世界；變動較大的話，我們將活在一個不再主要由人類主導的文明。
改變並不是一定要拒斥的，人類主導的文明不見得真正對個人或個人所處的世界比較有利。但對人類社會來說，這幾年的鉅變已經是吃不消的了。我並不認為有多少人已經準備好去迎接一種更加難以設想的新秩序。
我們尚且不需要去討論什麼秘密結社或陰謀論，光是疫情、烏俄戰爭、中美對抗、AI發展與生活場域的數位化、以及高機率即將到來的經濟衰退，都已經向我們展示了一連串不可逆的重大改變。我們應當去學習與運用科技高速發展所帶來的碩果，但在這個時間節點上的人類真的沒有足夠的餘裕不去謹慎面對。
當那些對科技的不可預測性過分樂觀的專家以一種Searle式意識觀說著「機器沒有目的所以沒有意識」的同時，放任擁有最多資源與最領先技術的科技巨頭為了搶佔下個時代科技板塊進行AI軍備競賽的人類，又真的明白並擁有自己的意識嗎？
延伸閱讀：
〈Please be True in other Words.〉
