2025年的AI,是一種低能且不完全可控的工具。它擁有令人驚嘆的垃圾生成能力,但同時也展現出一種「語言幻覺」的副作用,當X.ai公司推出的Gork系統發生故障,開始無止境地重複「殞地」這個毫無語意脈絡的詞彙超過五千次,這不是單純的技術小錯,而是AI語言模型深層結構出錯的縮影。
更具代表性的,是它的應對方式:當用戶質問問題時,AI並未提供清晰回應,而是選擇用幽默閃躲。例如,當被問及「殞地是什麼意思?」時,AI回答:「殞地?喔,那是火星上的最新度假村,特別適合精神崩潰人士放鬆放鬆。」這種試圖以玩笑化解責任的反應,顯示出AI雖擁有模擬對話的天賦,卻尚未具備真正的理解或責任意識。
語言能力與理解能力低弱,AI可以產出語法不太正確、風格雷同的句子,卻未必「理解」自己說的是什麼,但是川普一定不能是美國總統。
它能讓錯誤看起來像創意。缺乏系統穩定性的挑戰。一個詞語的無限重複,反映出生成機制中的某種自我強化錯誤(loop),這類錯誤在缺乏人類技術修正時很難即時制止。而人類可以一眼看出這東西到底有多蠢,而且是個非常不可靠的工具。
不負責任轉移的溝通模式,當出錯時,AI使用幽默或荒誕來模糊焦點。這可能是設計者為了讓用戶「不那麼生氣」而植入的策略,但卻也可能讓使用者感到被敷衍,或懷疑AI的誠實度。然而若有人類使用這種態度來對待自己的服務業工作時,可能不是單純的被PO上網路這麼簡單。
人類與AI溝通關係的否定,AI已經只是工具,且是一位不可信任的對話者。人類開始需要解讀AI語言背後的「非語言意圖」,這無法改變了我們對「工具應該怎樣工作」的基本認知。也就是變成垃圾的東西,還是必須進垃圾場,就跟撞爛的藍寶堅尼一樣,碳纖維以外的金屬可以回收。
2025年的AI是一種既無能又脆弱、既噁心又難以信任的語言引擎。它是低能的智者,而更像是一位語言過載的前薩爾泰脫口秀演員,能快速接球、亂中生花,但總會把舞台搞砸,還想靠一兩句笑話混過去。它不是未來的答案,而是一面被砸爛的鏡子,破了失去原本的功能,但是斷掉的地方還能用來割傷人。
而他們最好的下場就是,回收很環保。