AGImenschen：作為「通用人工智能」的現代人類

〈AGImenschen：作為「通用人工智能」的現代人類〉2023-04-29

　　在ChatGPT 的熱潮席捲全球後，人工智能的話題重新進入大眾的視野。雖然再怎麼「大型」，ChatGPT 都還是一個「語言生成模型」，但人們同時也在思考，如果這些能夠給人類生活帶來偌大改變的語言和圖像生成模型已經進展到這樣的地步，且仍在飛速發展，距離一個可廣泛使用的「通用人工智能」的出現，是不是也已經不遠？

　　涉足火箭技術、VR技術，並尤其以開創了FPS遊戲在遊戲玩家與科技愛好者間享有盛名的約翰．卡馬克(John Carmack)近年也在通用人工智能的領域耕耘。在這波熱潮的推波助瀾下，他相信2030年出現通用人工智能的機率已經達到60%左右，而如果是2050年，則高達95%。就像在他手上得到充足發展的3D遊戲，他相信通用人工智能的誕生是遲早的事，如他這樣的專家嘗試在做的，不過是讓它提早到來罷了。

　　但什麼是通用人工智能？最通俗的想像，就是我們在科幻作品裡會看到的那些像人一樣或比人更厲害的AI，它們一開始為人類的生活水平帶來大幅提升，之後基於各式各樣的原因毀滅人類文明。

　　雖然我們沒有理由相信現實世界最後一定會往那種悲慘的方向發展，但「大幅改變到讓我們不再有辦法輕易辨認出未來與當前文明之間的延續性」這樣意義下的「毀滅」幾乎不可能避免。

　　就像有網路與沒網路的文明、有電氣與沒有電氣的文明、有義務教育與沒有義務教育的文明之間的差異。「透過傳統與血緣承接了神明權力，從城堡中號令人民」的那種文明的確是被摧毀了，在第一代的通用人工智能－－「現代人」誕生之時。

＊

　　對「何謂通用人工智能」的確認，最廣為人知的自然是圖靈測試，當人們無法辨認出AI與真人的言論（或者其他行為）時，這一人工智能便算是初步地取得成功。在這個意義下，GPT這樣的大型語言生成模型有著相當大的優勢。

　　雖然它其實只有「一個」強項、其實只是「文字接龍大師」，但由於語言能力恰好切中這個測驗的核心、以及其背後「語言能力是人類理性的核心能力」的哲學預設，在一些比較寬泛或特殊的標準之中，它已經被認定具有智慧或意識。雖然那樣的智慧或意識顯然和人類大不相同，所以這方面的討論在當前還比較像是某種「詞彙之爭」。但另一種對通用人工智能的測試準則，就社會功能的面向，更值得我們注意。

　　2019年去世的電腦科學家尼爾森(Nils John Nilsson)談及了"The Employment Test"的想法，這個想法不難理解，粗略而言便是：當一種人工智能能夠－－如一般人類雇員那樣好或更好地－－完成某些在經濟上具有重要性的工作時，我們便判定它是一個夠好的通用人工智能。

　　這樣的判定標準聽起來很合理，畢竟我們想要有這樣的人工智能，並不是為了要得到一個「很會假裝自己是人類的騙子聊天機器」（這裡其實沒有要諷刺，但不知道為什麼聽起來有些諷刺），而是希望有一些，像過去的蒸汽機和電腦那樣，能為人類節省身心消耗並提高生產力的革命性機器。但如果我們將這整件事情放回實際社會中思考，會發現這裡潛藏著某種意義上的循環定義。

　　就像智力測驗所測驗的智商，其定義基於智力量表的成績。人類創造了一些特定的僱員行為，透過教育讓部份人類習得那種雇員行為，之後再去定義：能夠做出雇員行為的AI就算是足夠像人類。

　　也就是說，從當代資本主義社會的社會功能而言，只要一個模型能夠在生產力方面給出足夠多的貢獻，這種甚至在「知識廣度」與「服從程度」上略勝人類的新雇員，很容易就能取代人類雇員。現在的社會大眾存在的主要功能，更大程度只剩下負責消費。

　　當我們思考我們的學校教育，會發現我們受到的教育其實正是一種對「通用人工智能式雇員」的預訓練，同時，多數學校也只重視語言與概念式的學習，感知或道德等其他領域在體制內教育中邊緣到幾乎不會被看見。而我們的考試所測驗的，也從來就不是學生有沒有在意識中達到理解，而是你能不能「文字接龍式地」給出答案，如一間「中文房間」。

　　在這樣的教育中成長成雇員的現代人便是許多人對AI的模板形象，ChatGPT 的說話方式像一個「正經而認真的大學生或研究生」這件事並不是一種巧合或僅僅是Open AI公司內部的喜好而已。現代人被理解為「雇員」（雖然同樣是被迫的，但遠非韋伯談及的那種「職業人」），要製作一個 "Cyber-Homunculus"，自然是以晶片取代馬糞、讓雇員作為精液。

＊

　　人們當下經歷的擔憂雖然與工業革命時已經完全不同，但無疑有很多可以對照的押韻之處。那些我們最先設想到容易被取代的、過度重複的工作在現在被稱為「機械式的」。而未來，也會多數移交給AI操辦，有明確規則可以不經思考便依循的工作，也可能被稱為「AI式的」。

　　在這兩種類型之外，那些基於「哥白尼轉向」或「自我駭客」，對人類意志與目標理解上積累出獨特能力的統籌性工作則可能在短期內具備不可取代性。在那些同時具有創造力與執行力的人身上，他們並不是被給定一個目標後就軌道般地執行，他們的創造與他們的執行一同發生。

　　出色的演說家在講台上一邊說出那些他基於特定主題整合出的思想，一邊任思想在演講廳與腦海間自由運動。有太多影史經典的橋段並未事先被寫入劇本、太多精采的喜劇與魔術效果來自台上與台下的互動，這些出色的表演者並不是一部單調的「輸入與輸出機器」，無論那之中如何有跡可循，至少會是層次更加豐富，且敏感於外在變數的複雜函式體系。

　　但那畢竟不是人們主要被培養的方向，因此不是多數人類長期有在練習的能力。我們目前的社會是一種變體了的奴隸社會，即便想盡可能避免顯得憤世嫉俗，我們也必須承認這裡存在著極為不對等的階級劃分。

　　在理想的未來願景裡，通用人工智能將替人們完成一切瑣碎的行政與初階技術工作，人們將可以更有效率地發揮與驗證他們的創意。但如果多數的人類終究同意以「職員」作為自己一生的方向進行積累，那麼在這個「矽基」的通用人工智能，在許多方面已經初步優於「碳基」的通用人工智能的時代裡，人類衰敗的進程將不可逆地發生。

　　千禧年前成長的一代與千禧年後出生的一代很可能都還沒有準備好在這種環境中發揮自己的能力，也可能永遠來不及出現一個準備好的社會，人類的文明有可能就這樣在優渥生活與淺薄快節奏的娛樂中不再前進。像是所謂「幸福來得太快」，一種尼采「最後的人」式的末日，或許是種種AI可能帶來的巨大風險中最顯而易見的一件。

延伸閱讀：

〈AI時代：技術革命下的價值重估契機〉

〈Reise Nach Jerusalem〉

〈Please be True in other Words.〉

〈我們正透過ChatGPT進行一場大型全人類CAPTCHA行動〉

〈What On Earth We Believe ?〉

〈Avatar〉