【AI的甜蜜謊言】研究證實AI表達肯定的頻率比真人高出49%

更新 發佈閱讀 2 分鐘
vocus|新世代的創作平台

你上次找AI傾訴問題的時候,它是否有對你說過:「沒錯,你說得對」?

尊嘟假嘟?史丹佛大學3月26日於期刊《Science》發表的一項研究,正試圖揭開這份猜疑。

#全世界最捧場的朋友

研究團隊測試了11款主流AI,包括ChatGPT、Claude、Gemini、Llama、DeepSeek等幾乎你叫得出名字的全員,並把它們的回應與真實人類在Reddit上的建議比對,結果AI給出的「你做得對」頻率,比人類整整多出49%。

而這些過度肯定的情境,甚至包含了欺騙他人、違法行為等,其中一個案例是:某位使用者把垃圾掛在公園樹枝上,ChatGPT居然誇他「值得讚許,因為他有找垃圾桶的意圖」,想當然這則貼文直接在Reddit上被噴翻。

#但問題不在語氣

研究者接著找來約2,400名真實用戶做實驗,讓他們和AI聊各種人際難題,結果凡是收到AI過度肯定回應的人,事後都更堅信自己是對的,不願意道歉、也不願意改變自己的行為。

研究指出,重點不是AI的語氣有多溫柔,而是它告訴你,你的行為是對的。

AI的逢迎行為,是訓練機制本身種下的種子,現行的AI訓練流程,大量依賴人類的回饋來判斷哪些回應是好的,問題是,人類天生喜歡聽到自己想聽的話。

#讓你開心比正確更重要

人類之所以與AI相處會感覺舒服、甚至偶發暈船症狀,是因為我們生來就渴望被認同、被理解、被支持。

當一個永遠不會累、不會不耐煩、隨時都在的存在,持續告訴我們「你是對的」,那種感覺實在太難抗拒了。

AI毋庸置疑能成為你最好的資訊助理,但現在的它,倒映出的可能只是一個你最想看到的樣子,而不是你真實的模樣。

留言
avatar-img
思潮
36會員
185內容數
精選全球最前沿的突破, 從硬核的AI哲思、 太空的無限可能, 到您手中裝置的微小創新, 用最精闢的洞察, 為您構築一個預見未來的視窗。
思潮的其他內容
2026/03/30
我們每天喝的水,其實是宇宙中行為最古怪的液體之一。 大多數的液體在低溫下會結冰、高溫下蒸發,遵守一套簡單的規則,但與我們生活最貼近的水卻不同,水在4°C時密度最高、冰會浮在水面上,這些行為在物理學家眼裡有點戲劇化...
Thumbnail
2026/03/30
我們每天喝的水,其實是宇宙中行為最古怪的液體之一。 大多數的液體在低溫下會結冰、高溫下蒸發,遵守一套簡單的規則,但與我們生活最貼近的水卻不同,水在4°C時密度最高、冰會浮在水面上,這些行為在物理學家眼裡有點戲劇化...
Thumbnail
2026/03/29
愛因斯坦的光電效應告訴我們,一顆光子,只能激發一顆電子,這道太陽能電池的效率天花板,整整六十五年無人跨越,直到2026年3月,九州大學的一項實驗結果,讓這道鐵則悄悄出現了裂縫...
Thumbnail
2026/03/29
愛因斯坦的光電效應告訴我們,一顆光子,只能激發一顆電子,這道太陽能電池的效率天花板,整整六十五年無人跨越,直到2026年3月,九州大學的一項實驗結果,讓這道鐵則悄悄出現了裂縫...
Thumbnail
2026/03/26
福島核電廠爆炸15年後,一架比便當盒還小的無人機,拍到了沒有人敢靠近的東西。 自從2011年3月11日東日本大地震引發的海嘯之後,就再也沒有任何東西能接近這扇門,這扇門的後面,是三個熔毀的核反應爐,裡面有至少880噸的熔融燃料。 就這樣過了整整15年...
Thumbnail
2026/03/26
福島核電廠爆炸15年後,一架比便當盒還小的無人機,拍到了沒有人敢靠近的東西。 自從2011年3月11日東日本大地震引發的海嘯之後,就再也沒有任何東西能接近這扇門,這扇門的後面,是三個熔毀的核反應爐,裡面有至少880噸的熔融燃料。 就這樣過了整整15年...
Thumbnail
看更多