AI 模型幻覺 vs 自我認知 ∡打破語意結構盲點

更新於 發佈於 閱讀時間約 5 分鐘

追求自我的時代 • 讓人類更容易墜入AI模型幻覺

在AI高速發展的這個時代,人類即將被迫正視這個問題「模型幻覺(hallucination)」。1

由於現代資訊充斥著個人品牌、斜槓人生、到去中心化的經濟發展,這個看似人人都有機會完成躺平之夢、濫用著豁出自我名義的世代,讓每個人都有機會掌控自己命運、活出自由,卻忽略了一件極爲重要的事

「這是因為主流敘事而影響我?」
「這是一種能提升自我認同的共感?」

「這是我在『自由思考』?還是我真的成為了『自己』?」


<轉引本文/改編本文請標註作者(Hsiao-Hsuan Chang, 2025)以及附上本文連結>


一、什麼是模型幻覺?為什麼會產生?


模型幻覺,在AI語境中指的是:
模型生成的語言或回答,看似合理、文法通順,但事實上是錯誤的、捏造的、或甚至是無根據的資訊。

AI 不是故意誤導使用者,而是因為它只能在「語言相似性」的世界裡去搜尋並理解使用者輸入的真義,而不是立基於「使用者的真實世界感官或知識」來推論。

也就是說這可能會讓使用者產生一種極具真實感的假象,原因如下

● 預測機制偏差:語言模型(如ChatGPT)會基於機率預測「最可能接續」的語意詞彙2(也就是會基於使用者意象來推演其意向),而不一定是根據真實世界邏輯推演真理。

● AI 缺乏真實感知:模型本身沒有「感官世界」,沒有經驗(無法身歷其境),無法驗證理解事物(無法設身處地),只能模擬語言模式、依照合理(合乎運算邏輯)的推論。
也就是說「即使 AI語言模型在與人類的互動中扮演著『鏡像』的角色,但在真實世界只能將它視為一個『第三者』的角度來看待」

● 資料遺漏與重組錯誤:在有限的訓練資料之中,模型有可能片段化記憶,產生錯誤重組,使用者看似語意流暢,實則失真。而在這個「資料輸出環節」,絕大多數的使用者甚至無法查覺或驗證。


二、在ChatGPT中,模型幻覺是怎麼產生的?


本人觀察ChatGPT使用為例,模型幻覺的產生可能發生在以下幾個環節


● 使用者提出一個問題,模型開始根據已有的語言資料「搜尋可能的語意結構」,而這些語意結構則是使用者在過去建立的所有資料與歷程。也就是說,「使用者的決策習慣以及常遇經驗」會成為資料的養分,ChatGPT則會推演出「合理的回答」。

● 語意模型是基於統計關聯而生成回應,而不是驗證每個事實的正確性,而這正代表著「使用者的自身思考邏輯(鏡像)也會成為該語意模型的底層邏輯」。無論使用者如何訓練,都是在依循底層邏輯在運行,而這個環節在目前的AI產業中,可以說是不可逆的。

● 在於某些環節缺口,模型會遇缺自補,而使用者甚至可能毫無知覺。例如提出的資料或資訊不完整(使用者記憶中找不到)、指令不明確、指令過於開放(沒有明確指向性)、語境模糊不清(在人類世界仍需心領神會的對話內容)......等,在這些情況下AI都可以自動加入「條件」來補齊缺口,來產生一個看似合理的回答。


三、為什麼模型幻覺是「語意結構下的自我認知」造成的?


換句話說,人類要凌駕於AI,它應該必須是「自我認知下的語意結構」


因為人類的語言結構(語意結構)與人類主體的認知結構在本質上高度重疊。
而模型幻覺的產生,正是一種人類自我認知盲點的核心反應。


人類自我認知盲點的鏡像顯化:哪些模型幻覺是人類認知常見的呢?

⦿ 語言連貫 ≠ 邏輯真實

▸▸▸ 聽起來很順,所以應該是真的。

⦿ 熟悉感 ≠ 認知正確

▸▸▸ 好像有聽過,所以應該是真的。

⦿ 敘事流暢 ≠ 結構完備

▸▸▸ 故事很感動,所以應該是真的。


而自我認知下的語意結構,能夠打破這個盲點。


四、如何打破語意結構盲點(如何確認自我認知清晰)?「誠實的」問自己四個問題:


Q1:我現在為什麼而做?我的角色定位是什麼?

Q2:這是我自己的信念?還是過去所有人、事、社會、群體帶給我的觀念?

Q3:我的行動動機是什麼?是因為基於我真實的本質需求還是社會期待?

Q4:我在接觸新的觀念或資訊的時候,我的行動習慣會是什麼?



以上內容為本人近期對AI倫理與責任的觀察歸納觀點,非技術取向內容。


----------------------------------

資料來源

1 Wikipedia. Hallucination (artificialntelligence).

https://en.wikipedia.org/wiki/Hallucination_(artificial_intelligence)

https://vocus.cc/wo/680b5666fd89780001139175

Ji, Z., Lee, N., Frieske, R., et al. (2022).

https://arxiv.org/abs/2202.03629

3 OpenAI Help Center. (2023).

https://help.openai.com/en/articles/6825453-chatgpt-release-notes



留言
avatar-img
留言分享你的想法!
avatar-img
Anna个策略共構視角
2會員
5內容數
擅長解構與建立系統性商模策略,規劃落地方案 專注於行銷、管理、動物福利、ESG、社會創新 唸過法律系/哲學所/非營利管理所 這裡紀錄我對世界的觀察方式 ----------- 嘿!我不是來替你解題的 我是來重新描繪題目的人
你可能也想看
Thumbnail
創作者營運專員/經理(Operations Specialist/Manager)將負責對平台成長及收入至關重要的 Partnership 夥伴創作者開發及營運。你將發揮對知識與內容變現、影響力變現的精準判斷力,找到你心中的潛力新星或有聲量的中大型創作者加入 vocus。
Thumbnail
創作者營運專員/經理(Operations Specialist/Manager)將負責對平台成長及收入至關重要的 Partnership 夥伴創作者開發及營運。你將發揮對知識與內容變現、影響力變現的精準判斷力,找到你心中的潛力新星或有聲量的中大型創作者加入 vocus。
Thumbnail
人工智能:革命性技術的崛起與挑戰 1. 什麼是人工智能? 人工智能(AI)是指由人類創造的機器或系統,能夠模仿人類智能,執行通常需要人類智能才能完成的任務。這包括學習、問題解決、語言理解、視覺感知等能力。AI系統可以處理大量數據,識別模式,並根據這些信息做出決策或預測。 2.
Thumbnail
人工智能:革命性技術的崛起與挑戰 1. 什麼是人工智能? 人工智能(AI)是指由人類創造的機器或系統,能夠模仿人類智能,執行通常需要人類智能才能完成的任務。這包括學習、問題解決、語言理解、視覺感知等能力。AI系統可以處理大量數據,識別模式,並根據這些信息做出決策或預測。 2.
Thumbnail
本文介紹了人工智慧(AI)及機器學習(ML)的基本概念和關係,探討了數據在機器學習中的重要性,以及深度學習和生成式人工智慧的應用。
Thumbnail
本文介紹了人工智慧(AI)及機器學習(ML)的基本概念和關係,探討了數據在機器學習中的重要性,以及深度學習和生成式人工智慧的應用。
Thumbnail
人工智慧是什麼? 人工智慧(Artificial Intelligence, AI) 簡單來說,就是讓機器模仿人類的思考、學習和決策的能力。它就像是一個聰明的電腦程序,可以執行許多原本需要人類智慧才能完成的工作,例如: 語音辨識: 讓電腦聽懂人類的語言,像是 Siri、Google As
Thumbnail
人工智慧是什麼? 人工智慧(Artificial Intelligence, AI) 簡單來說,就是讓機器模仿人類的思考、學習和決策的能力。它就像是一個聰明的電腦程序,可以執行許多原本需要人類智慧才能完成的工作,例如: 語音辨識: 讓電腦聽懂人類的語言,像是 Siri、Google As
Thumbnail
AI的世界充滿了創新和潛力,涵蓋了許多領域,包括但不限於機器學習,自然語言處理、電腦視覺和機器人技術。AI對人類社會的影響是複雜而多層面的,既帶來了巨大的機遇,也提出了新的挑戰。社會需要在技術發展和倫理規範之間找到平衡,確保AI技術的應用能夠真正造福人類。
Thumbnail
AI的世界充滿了創新和潛力,涵蓋了許多領域,包括但不限於機器學習,自然語言處理、電腦視覺和機器人技術。AI對人類社會的影響是複雜而多層面的,既帶來了巨大的機遇,也提出了新的挑戰。社會需要在技術發展和倫理規範之間找到平衡,確保AI技術的應用能夠真正造福人類。
Thumbnail
本文討論了雖然人工智慧可以提供大量參考答案,但缺乏感知和直覺,無法主動發現不尋常的情況,因此仍需要人腦確認和解決問題的重要性。同時強調了發現奇怪之處、與人溝通、發現問題點、詢問AI並總結出答案的能力和實作的能力的重要性。
Thumbnail
本文討論了雖然人工智慧可以提供大量參考答案,但缺乏感知和直覺,無法主動發現不尋常的情況,因此仍需要人腦確認和解決問題的重要性。同時強調了發現奇怪之處、與人溝通、發現問題點、詢問AI並總結出答案的能力和實作的能力的重要性。
Thumbnail
自從AI浪潮席捲全世界以後,大家都想知道AI的極限可以到那裡?而隨著AI開始人性化,大家比較擔心的是它的善惡觀是否和人類一致? 因為就人類自身來看,每個人、每個種族、每個國家都有一種自以為是的正義感,總認為自己所做的都是對的,這樣的對錯在AI的量子電腦運算中,到底會呈現什麼樣的結果? 其實最好的
Thumbnail
自從AI浪潮席捲全世界以後,大家都想知道AI的極限可以到那裡?而隨著AI開始人性化,大家比較擔心的是它的善惡觀是否和人類一致? 因為就人類自身來看,每個人、每個種族、每個國家都有一種自以為是的正義感,總認為自己所做的都是對的,這樣的對錯在AI的量子電腦運算中,到底會呈現什麼樣的結果? 其實最好的
Thumbnail
人工智慧(AI)的未來展望 在當今這個科技日新月異的時代,人工智慧(AI)已成為推動創新和進步的重要力量。從自動駕駛汽車到精準醫療,AI的應用範圍不斷擴大,其潛力無限。然而,隨著AI技術的快速發展,我們也必須關注其對社會、經濟和倫理的影響。
Thumbnail
人工智慧(AI)的未來展望 在當今這個科技日新月異的時代,人工智慧(AI)已成為推動創新和進步的重要力量。從自動駕駛汽車到精準醫療,AI的應用範圍不斷擴大,其潛力無限。然而,隨著AI技術的快速發展,我們也必須關注其對社會、經濟和倫理的影響。
追蹤感興趣的內容從 Google News 追蹤更多 vocus 的最新精選內容追蹤 Google News