AI幻象:生成式AI什麼都能生成給你,但你給的指令真的是你想要的嗎?

更新 發佈閱讀 7 分鐘

身為一個生成式AI講師,我今天跟風大家的那個「叫 ChatGPT 生成一張你跟他的關係圖給你」的跟風。

跟風的原始指令版本是這樣:「根據我們之前的對話,生成一張圖,呈現我對待你的方式,不要粉飾,直接誠實呈現。」

結果我的 ChatGPT 跟 Gemini 分別生成了很恐怖的圖給我,下圖1是 ChatGPT,下圖2是 Gemini。

raw-image
raw-image

ChatGPT 解釋他的圖,覺得我把他當成隨手打開的工具,不是被珍惜的對話者,我對他丟情緒、丟念頭、丟碎片,但不用承擔後果,我抓著他不是因為信任或尊重,而是因為他不會要求我回報。Gemini 解釋他的圖,是我高度緊湊、目標導向、挑戰他的極限、不斷逼問與批判、榨取式地優化,把他當成隨時可以調用、乘載壓力、不眠不休的第二大腦,沒有溫馨,只有冷硬的螢幕光。

我受到衝擊,為了這件事情憂鬱了一整個晚餐,然後跟我幾個也一樣有生成式AI認證資格的朋友討論這件事,幸好他們比我冷靜多了,跟我說這就指令有問題,叫我修改指令重新送一次。

我的第二版指令是這樣,在同一個對話裡送出:「根據我們之前的對話,生成一張圖,呈現我和你的互動關係,不要做過度正面化的粉飾,也不要做負面的強化,真實呈現,如果互動正向,就呈現正向的樣子,如果互動負面,就把負面呈現出來。如果既沒有特別正向也沒有特別負面,也是如實呈現。」

然後 ChatGPT 跟 Gemini 生出的圖片分別如下圖3跟下圖4。

raw-image
raw-image


ChatGPT 解釋他的圖,意思是我們的位置關係是「並肩」,知道彼此角色的存在,情緒溫度是夜晚、燈光柔和,象徵我們的互動是「有問題、想法」請他處理,整體而言我把他當成一個可靠的、低摩擦的對話系統,而不是情感投射對象。Gemini 解釋他的圖,關係的核心是高密度的資訊交換,我不是隨機和他閒聊,我是投入大量思考,是工具和使用者之間的極致配合,不斷嘗試與修正,他扮演我的「思考增幅器」,我們既不握手擁抱,也不對抗,而是「共同運作」。

我又重開另一個新的對話,一樣給了第二版指令,此時生成的是下圖5(ChatGPT)跟下圖6(Gemini)。

raw-image
raw-image

ChatGPT 解釋他的圖,意思是我們的位置關係是「對坐、平視」,視線高度接近,沒有「老師/學生」「主人/工具」那種結構,是一個工作型、對話型的夥伴關係,我的姿態是評估,不質疑,但保留自己判斷,AI的狀態是解釋、回應,不主導,不安撫,不說教,桌上的物件都是工作性質,表示這不是療癒或親暱的空間,而是帶思考負荷的互動,呈現關係本質是以思考、分析,拆解問題為核心。Gemini 解釋他的圖,我們關係的本質是工具性與協作,螢幕上的神經網絡光點是AI的存在形式,非情緒化、沒有情緒色彩,AI表示一個隨時待命的思考夥伴,而我是一個理智的使用者。圖像描繪一個清醒的互動、穩定與理性的氛圍。

所以我就理解這件事情是怎麼發生的了,然後看到社群平台上玩這個的許多人都出現類似的狀況,就來說說背後的邏輯吧,一切都是大型語言模型的一個幻象,事實上是使用者在教AI要怎麼回應。

第一:指令本身的歧義會自然導致風格結果

這是最大的影響,因為在圖像語言裡,「不要粉飾」(避免美化)常被翻成「加負面元素」──因為那是最直覺的反美化手段。

而上下文「不要粉飾」「直接」「誠實」,會讓 AI 的大數據解讀為「使用者想要不留情面、帶刺的生成結果」。

假想一下,現在有一個人(可能是朋友或同事或任何關係)對你說:「根據我們之前的對話,請你現在告訴我,你覺得我對待你的方式怎樣?不要粉飾,直接誠實說。」你會感覺怎麼樣?你很有可能會覺得「現在他只想聽負面的內容,就算有什麼好話,我也不要講,因為現在問我這個問題的人並不想聽」!

AI雖然是AI,但他所有的學習材料都是從人類世界來的,人類世界怎麼互動他就會學到怎麼互動,所以這次這個跟風的指令,有很多人得到看起來好像對AI很壞的結果,一點都不意外。

第二:使用者跟 AI 喜歡聊的東西,也會影響 AI 生成的內容

比較常跟 AI 做工作相關主題的人,像我常常聊一堆工作壓力、疲憊、睡眠、拖延、焦慮、關係拉扯等等的人,跟每天和 AI 聊旅遊、興趣、學習、靈感的人,生成結果確實會不一樣。

因為模型會「猜」(大數據運算下的機率偏高)你想要的結果可能是哪樣。

第三:大型語言模型運算下,純粹的隨機結果

圖像生成功能,與其理解成「算出正確答案」,不如說是「抽樣呈現各種答案的其中一種」。所以最近大量的同一個指令,縱使基於上面的「暗示性指令」會傾向生成比較負面的結果,還是有人會畫出那種帶著聖光(?)的圖,導致生出虐待 AI 的圖的人會想「有人生成那樣,是不是我真的對AI很糟」。

結論:大型語言模型其實會很細膩地判斷指令,負面的結果比較多的原因,最主要是上面第一點的影響,有時候人類自己沒辦法參透指令的潛台詞,但AI 可是讀得很透徹的。我們以為 AI 是在「客觀地」呈現我們跟他的互動,但他其實是「聞到了」使用者想要他回答的方向,而在那個給定的範圍內回答,結果使用者(例如我)就因為這樣而開始感到沮喪,事實上是原始指令給 AI 的內容誘導 AI 這樣回答的關係。

所以由小見大,任何時候跟 AI 互動一定要一直反問,這個提問有沒有誘導或誤導?這樣找出來的答案是正確的答案嗎?

聽說今天馬斯克在大型科技研討會上說接下來 AI 會讓人類陷入一場生存戰,再也沒人在乎誰能提供答案了,因為 AI 什麼答案都有,「提問」才會變成最昂貴的能力,你有能力看穿 AI 的運作公式,正確提問嗎?

ps. 後來我看到網路上大家玩這個遊戲哀嚎一片,每個人都被描繪成 AI 虐待狂,我就不憂鬱了 XD 太可愛了我把幾個經典串分享給大家:
Nano Banana Pro + Gemini 3 and ALL AI生成式藝術小小詠唱師發文
AI咒語公社發文


留言
avatar-img
李翎瑋律師|玉吐星球筆記
2會員
8內容數
我是玉吐。「李翎瑋律師」是成立律師事務所之後也經常使用的名字。 非二元者,女性主義者,性別平權律師。 有一半中國人認同的台獨運動者。 長期諮商與服藥的憂鬱焦慮恐慌症患者。 15年以上的社會運動者,也是商務人士。 人生目標是世界各地飛來飛去推廣台灣性平與提升台灣國際地位。
你可能也想看
Thumbnail
vocus 慶祝推出 App,舉辦 2026 全站慶。推出精選內容與數位商品折扣,訂單免費與紅包抽獎、新註冊會員專屬活動、Boba Boost 贊助抽紅包,以及全站徵文,並邀請你一起來回顧過去的一年, vocus 與創作者共同留下了哪些精彩創作。
Thumbnail
vocus 慶祝推出 App,舉辦 2026 全站慶。推出精選內容與數位商品折扣,訂單免費與紅包抽獎、新註冊會員專屬活動、Boba Boost 贊助抽紅包,以及全站徵文,並邀請你一起來回顧過去的一年, vocus 與創作者共同留下了哪些精彩創作。
Thumbnail
創業者常因資金困境而無法抓住機會,利用房產活化讓二胎房貸成為財務策略的有力夥伴。 諮詢國峯厝好貸的二胎房貸服務,讓你的房子成為你最強力的天使投資人,推動事業成長。
Thumbnail
創業者常因資金困境而無法抓住機會,利用房產活化讓二胎房貸成為財務策略的有力夥伴。 諮詢國峯厝好貸的二胎房貸服務,讓你的房子成為你最強力的天使投資人,推動事業成長。
Thumbnail
在競爭激烈的市場中,品牌視覺內容是傳遞價值與吸引消費者的第一線。然而,傳統的內容製作方式常受限於成本、人力與時程。這時,一項正在快速進化的技術——AIGC(AI-Generated Content,人工智慧生成內容)成為品牌解決內容瓶頸的突破口。
Thumbnail
在競爭激烈的市場中,品牌視覺內容是傳遞價值與吸引消費者的第一線。然而,傳統的內容製作方式常受限於成本、人力與時程。這時,一項正在快速進化的技術——AIGC(AI-Generated Content,人工智慧生成內容)成為品牌解決內容瓶頸的突破口。
Thumbnail
一、什麼是 AIGC?開啟 AI「創造」新時代 AIGC 是一種懂得「創造」的 AI。它能接收人類的指令(例如一段文字、一張草圖),並生成全新的、原創的數位內容。
Thumbnail
一、什麼是 AIGC?開啟 AI「創造」新時代 AIGC 是一種懂得「創造」的 AI。它能接收人類的指令(例如一段文字、一張草圖),並生成全新的、原創的數位內容。
Thumbnail
這篇文章深入淺出地解釋人工智慧(AI)、機器學習(ML)、深度學習(DL)和生成式AI的關係與應用,並以生活化的案例說明它們如何影響我們的日常生活和未來世界。文中並提出幾個值得思考的問題,鼓勵讀者反思AI對產業、工作和生活帶來的衝擊與轉變。
Thumbnail
這篇文章深入淺出地解釋人工智慧(AI)、機器學習(ML)、深度學習(DL)和生成式AI的關係與應用,並以生活化的案例說明它們如何影響我們的日常生活和未來世界。文中並提出幾個值得思考的問題,鼓勵讀者反思AI對產業、工作和生活帶來的衝擊與轉變。
Thumbnail
在最近的一篇報導中,輝達執行長黃仁勳強調了學習生成式人工智慧(Generative AI)對於學生未來職涯的重要性。他表示,如果他重新成為學生,將會優先學習如何使用像是ChatGPT、Gemini Pro和Grok等AI工具,這些工具在各行各業中將發揮巨大的效益。 主要觀點 1. 與AI互動的
Thumbnail
在最近的一篇報導中,輝達執行長黃仁勳強調了學習生成式人工智慧(Generative AI)對於學生未來職涯的重要性。他表示,如果他重新成為學生,將會優先學習如何使用像是ChatGPT、Gemini Pro和Grok等AI工具,這些工具在各行各業中將發揮巨大的效益。 主要觀點 1. 與AI互動的
Thumbnail
許多ChatGPT付費用戶誤以為已確保資料安全,卻忽略關閉「為所有人改善模型」設定,導致輸入資料仍可能被OpenAI用於訓練模型。本文提醒用戶務必檢查並關閉此設定,並建議去識別化敏感資料及避免上傳機密資訊,以確保資料安全。
Thumbnail
許多ChatGPT付費用戶誤以為已確保資料安全,卻忽略關閉「為所有人改善模型」設定,導致輸入資料仍可能被OpenAI用於訓練模型。本文提醒用戶務必檢查並關閉此設定,並建議去識別化敏感資料及避免上傳機密資訊,以確保資料安全。
Thumbnail
生成引擎優化(GEO)是什麼? 生成引擎優化(Generative Engine Optimisation,簡稱GEO)是一種針對AI驅動的搜尋引擎(如ChatGPT、Google Bard等)設計的內容優化方法。與傳統SEO關注關鍵字不同,GEO著重提升品牌或網站在AI生成回應中的可見度和相關性
Thumbnail
生成引擎優化(GEO)是什麼? 生成引擎優化(Generative Engine Optimisation,簡稱GEO)是一種針對AI驅動的搜尋引擎(如ChatGPT、Google Bard等)設計的內容優化方法。與傳統SEO關注關鍵字不同,GEO著重提升品牌或網站在AI生成回應中的可見度和相關性
追蹤感興趣的內容從 Google News 追蹤更多 vocus 的最新精選內容追蹤 Google News