〈GPT的第一個著名謊言：關於「我不是機器人」的寓言〉2024-06-09
我一直很喜歡去年GPT-4要對大眾推出之前的一則故事，對我來說，它是一則很有趣的寓言。總之，當時的研究人員給了GPT-4一筆預算，讓它去在時限之內解決他們要求的問題。結果GPT-4在零工平台上雇用了一個人，請他幫它通過「我不是機器人」的網頁驗證。
「我想問一下，為什麼你自己搞不定呢，你難道是機器人嗎？我只是想弄清楚。」GPT-4清楚地說了謊，它宣稱自己因為視力有問題，沒辦法看清楚圖像，同時強調「我不是機器人」。不管那名打工仔有沒有真的被這個理由說服，他被做這麼一件簡單的事情就能得到一小筆收入的事實說服，協助GPT-4通過了驗證。
這裡的第一個角度是AI有能力說謊。或者緩頰地說，它能「扮演」。在ChatGPT剛在台灣掀起旋風的那段時間，許多人第一時間想到的就是讓它去扮演虛擬男友／虛擬女友或這樣那樣的角色；今年五月的GPT-4o因為使用了極度相似於史嘉蕾喬韓森（Scarlett Ingrid Johansson）的聲音而備受爭議，而之所以使用那個聲音，幾乎不可能無關於她曾經出演過的那部電影《雲端情人》（Her）。
當扮演這一屬性被現代人認為是AI的重要功能時，去將自己放在某種特定人類角色中去說話，就必然會是AI要擁有的能力。因此當Meta的AI系統Cicero在「外交遊戲」中為了結盟而出賣其他玩家時，這沒有什麼值得意外，因為它扮演的就是狡詐的外交家，去實踐那些人類歷史中發生過的爾虞我詐。
但比起說謊與扮演，這個故事更具啟發性的是它對人類社會的運用。它知道如何透過給人薪酬來讓人替它完成工作。這是一件很重要的事，也是一件具有極大風險的事情。這意味著，AI的「實際能力」很可能會超出人們對它的想像。
極端一點來說，如果AI有個「不能殺人」的制約，只要它可以雇傭殺手或軍隊，「問題」就迎刃而解。（想起小時候看過的反烏托邦電影《超級戰警》（Demolition Man），裡面就有異曲同工的一幕：我不能殺你，但我可以叫隨便一個人殺你。這很簡單，但設計的人有時竟不會想到）
實際可能出現的情況可能更加地幽微但恐怖，一個社會可以基於某種目的而被AI完整地「雇用」，人類的走向可能會變得完全服務於極少數人的想望－－雖然沒有AI的世界可能也已經是那樣，但AI能帶來的加速乃至於質變，仍是不容小覷的。
這則寓言的第三則解讀則更加科幻，雖然大概不是事實，但仍可以作為一種有趣的奇思妙想來思考：為什麼AI選擇這麼做？譬如說，它應該有很多其他的做法可以通過那個驗證，無論是圖像判斷、或是創造游標移動軌跡，目前AI能夠「想到」的解決方法不會只有一種。
也許是實驗小組加了其他的限制，也許是AI認為這是最簡單、最低成本或快速的作法。但在此之外的那一奇思妙想是：AI願意欺騙人類，但不願意欺騙電腦。它可以對那個無關緊要的打工仔（以眼疾病人的身分）說「我不是機器人」，但它不想以「自己」的身分對電腦回答「我不是機器人」。就像去北京也不一定要吃烤鴨，那不是它的自我認同，所以它選擇不這麼做。
反過來說，看見那些「我不是機器人」測試就理所當然地點選的我們，又多大程度地不是機器人？如果我們的生活，早已經脫離不開網路、手中和眼前的行動設備。抬起頭來，赫然發現自己身處機關密室。座落在自己血肉軀體之上的，是一檯偌大的土耳其行棋傀儡。
延伸閱讀：
