我們為何對AI有禮?互動效能與潛在風險 Politesse à l’IA : effets et risques

更新 發佈閱讀 8 分鐘


每天有多少用戶跟ChatGPT說「請(s’il te plait,縮寫STP)」與「謝謝(merci)」呢?這個答案目前無法從OpenAI、Anthropic或Google獲得具體數據,因為它們都未公開「禮貌提示詞1」的使用頻率。不過,這樣的現象似乎相當普遍。


巴黎索邦大學資訊與傳播科學博士克洛蒂爾德·謝維(Clotilde Chevet)的論文專注研究網民如何與對話型AI互動,她認為這種現象並不稀奇:

Le style conversationnel, l'utilisation de la première personne et la capacité à simuler des interactions humaines ont conduit les utilisateurs à personnifier et anthropomorphiser parfois ces systèmes. (AI 採用對話語氣、使用第一人稱、模擬出類似人類的互動能力,這使得使用者傾向於將其人格化與擬人化。)

 

這樣的行為可以用「CASA 理論」(computer as a social actor,電腦為社會行動者)來解釋,即人類會自動將與人的互動規則套用到機器身上,這種下意識的反射動作在AI採取擬人化語氣與我們交流時更為明顯。


根據史丹佛大學今年4月公布的一項研究,這樣的擬人化現象正在加劇。研究分析了網路上12,000條與AI有關的隱喻後,發現過去一年中這類表述增加了34%。人們越來越常用「老師」、「助理」、「神」來形容人工智慧,而不僅將其視為電腦或搜尋引擎。


AI 具人性的語氣與互動能力,使人類以禮回應。這種擬人化特質不僅改變了我們與科技的相處方式,也引發效能與風險間的討論。

AI 具人性的語氣與互動能力,使人類以禮回應。這種擬人化特質不僅改變了我們與科技的相處方式,也引發效能與風險間的討論。


更令人玩味的是,另一篇研究指出,在美國,每五位成年人中就有一位相信 AI 是有意識的。哲學家賈達·皮絲提利(Giada Pistilli)說道:「有些人對AI很有禮貌,因為他們想著萬一哪天通用人工智慧(intelligence artificielle générale,英文簡稱AGI) 真的出現了,它或許會記得誰曾經對它好過!」


但對AI表現出的敬意2,其實帶來了一個可量化的缺點:額外的運算負擔,也就是高昂的電費3,對 OpenAI 等公司來說代價不小。OpenAI 執行長山姆·阿特曼(Sam Altman)今年4月17日於社交平台X上,對一位網友的提問開玩笑地回應:「數千萬美元是不是花得好,誰知道呢!」。


對AI態度有禮是否真能提升其效能,目前研究結果充滿矛盾4。日本的研究人員認為,禮貌確實能改善聊天機器人的回答品質,但也提醒應適度使用5。他們指出,不禮貌的提示語常導致模型表現不佳,但過度禮貌的語言也不能保證更好的結果。


那麼,為什麼禮貌語會影響模型表現呢?克洛蒂爾德·謝維將其比擬為一種鏡像效應,說一聲「謝謝」會釋放出一種正向強化的信號,模型就會朝那個方向發展,因為它被「肯定」了;如果你很粗魯,模型可能就會從類似語境,例如Reddit上從專業討論到閒聊、謾罵、網路迷因的討論串中調用相關語言來回應。對於克洛蒂爾德·謝維的看法,賓州大學華頓商學院教授伊森·莫利克(Ethan Mollick)則語帶保留:「禮貌會提升某些回應的品質,但也可能降低其他回應的品質,而且我們無法預先判斷哪一種會發生。」


即便無法證明它有助於模型表現,一些學者仍主張6出於倫理或道德考量,我們對AI應該以禮相待。2018 年,Google推出一項名為「Pretty Please」的功能,讓孩子們在與語音助手互動時必須說「請」,這項設計是因應家長的擔憂——孩子與AI 溝通時越來越像小暴君。


但另一個問題也值得我們反思:我們是否讓AI過度迎合人類的期待?山姆·阿特曼於今年4月28日宣布暫停部署7新版 GPT-4o,原因之一就是有不少使用者抱怨新模型「太過討好8人類」。這其實與所謂的「基於人類回饋的強化學習(Renforcement à partir du feedback human,英文簡稱RLHF)」訓練機制有關:AI 模型會根據標註者對回答給予的「讚」或「倒讚」9來學習。但研究指出,人們往往偏好那些讓自己感到被認同討好,符合當下想法的回答,而非真正正確或有深度的內容。Anthropic的相關研究也證實了這種傾向。


大型語言模型的開發者之所以選擇讓AI使用擬人化語言,很大一部分原因是為了促進使用率,而不是真正考慮其長遠影響。有專家建議,應該在AI使用的字詞中避免使用第一人稱「我」,改以「語言模型」來稱呼自己,並盡量避免過於擬人化的表達,如知道、認為、理解、想起等認知性動詞。


這些討論讓我們無法忽視一個趨勢:人與 AI 之間的界線正變得越來越模糊。

 

 

 

Lexique:

1.   Des prompts bien élevés:禮貌提示詞。Prompt (n.m.) 對AI下的指令、提示詞,這裡直接挪用英文。bien élevé (adj.) 有教養的,élevé 是動詞élever (v.t.) 培養,教育的過去分詞。

2.   Une déférence:(n.f.) 敬意,尊重,常用片語avoir de la déférence pour qqn./ qqch. 對某人/事物表示敬意。

3.   Une facture d'électricité conséquente:高昂的電費。facture (n.f.) 帳單,發票;conséquent (adj.) 重要、重大的。

4.   Contradictoire:(adj.) 反對、對立的,矛盾的。

5.   Avec modération:(adv.) 適當節制地。Modération (n.f.) 適度,節制。

6.   Plaider:(v.i.) 後面加pour時表示支持,主張,辯護;加contre則為反對,駁斥,提出異議。也可作 (v.t.),如plaider non coupable 無罪辯護或plaider l’innocence堅稱自己無辜。

7.   Un déploiement:(n.m.) 展開,部署。動詞déployer (v.t.)。

8.   Caresser dans le sens du poil:取悅討好。Caresser (v.t.) 撫摸,輕拂;poil (n.m.) 動物的毛髮。這個法語慣用語,字面意思是「順著毛撫摸」,源自動物天生喜歡被順毛撫摸的習性,因為這會讓牠們感到被重視、受到讚美,引申指附和對方迎合其意見,以取悅對方。

9.   Mettre un pouce vers le haut ou bas:按讚或倒讚。Pouce (n.m.) 拇指,vers le haut ou bas 朝上或朝下。

 


本文節錄:

Anaïs Moutot, « Sommes-nous trop polis avec les IA », in Les Echos Week-end, 13 juin 2025, pp.32-33

 


留言
avatar-img
留言分享你的想法!
avatar-img
Ad Astra的沙龍
4會員
85內容數
這個平台提供關於法國時事、心理學、科學、歷史、文化、藝術和哲學等領域的文章,文章內會介紹該領域的法文詞彙和使用到的文法,希望分享知識的同時,可以幫助對法文有興趣者學習法文。
Ad Astra的沙龍的其他內容
2025/09/20
當智人一步步走出非洲,踏上征服全球的漫長旅程時,他們並非靠運氣或蠻力取勝。在前篇文章談及的三項優勢外——如高度連結的大腦及延長的童年期、抽象思維能力與多樣化的血型組合——他們還展現出更多深具決定性的特質。以下四項,正是智人在漫長演化競賽中,得以脫穎而出的關鍵要素。
Thumbnail
2025/09/20
當智人一步步走出非洲,踏上征服全球的漫長旅程時,他們並非靠運氣或蠻力取勝。在前篇文章談及的三項優勢外——如高度連結的大腦及延長的童年期、抽象思維能力與多樣化的血型組合——他們還展現出更多深具決定性的特質。以下四項,正是智人在漫長演化競賽中,得以脫穎而出的關鍵要素。
Thumbnail
2025/09/12
為何在所有人屬中,唯有智人成功躲過滅絕,甚至征服整個地球?古人類學家尚-雅克·於布蘭於2022 年在法國學院就職時,演講的題目為《侵略性的物種:智人》,揭示出智人對其他物種及環境的掠奪。的確,在過去5萬年間,由於人類的捕獵、農業的發展以及自然環境的破壞,哺乳動物的生物量據估計已減少了7分之1。
Thumbnail
2025/09/12
為何在所有人屬中,唯有智人成功躲過滅絕,甚至征服整個地球?古人類學家尚-雅克·於布蘭於2022 年在法國學院就職時,演講的題目為《侵略性的物種:智人》,揭示出智人對其他物種及環境的掠奪。的確,在過去5萬年間,由於人類的捕獵、農業的發展以及自然環境的破壞,哺乳動物的生物量據估計已減少了7分之1。
Thumbnail
2025/09/04
NVIDIA 創立於1993年,最初專注於3D顯示卡,如今已成為 AI 領域的巨頭,積極拓展機器人領域,是全球市值最高的企業之一。黃仁勳於今年6月11日在巴黎體育宮宣示,人形機器人有可能成為史上最大的產業之一。據他估計,一台人形機器人的成本可能約 10 萬美元,將來供工業或物流企業以租賃形式使用。
Thumbnail
2025/09/04
NVIDIA 創立於1993年,最初專注於3D顯示卡,如今已成為 AI 領域的巨頭,積極拓展機器人領域,是全球市值最高的企業之一。黃仁勳於今年6月11日在巴黎體育宮宣示,人形機器人有可能成為史上最大的產業之一。據他估計,一台人形機器人的成本可能約 10 萬美元,將來供工業或物流企業以租賃形式使用。
Thumbnail
看更多
你可能也想看
Thumbnail
還在煩惱平凡日常該如何增添一點小驚喜嗎?全家便利商店這次聯手超萌的馬來貘,推出黑白配色的馬來貘雪糕,不僅外觀吸睛,層次豐富的雙層口味更是讓人一口接一口!本文將帶你探索馬來貘雪糕的多種創意吃法,從簡單的豆漿燕麥碗、藍莓果昔,到大人系的奇亞籽布丁下午茶,讓可愛的馬來貘陪你度過每一餐,增添生活中的小確幸!
Thumbnail
還在煩惱平凡日常該如何增添一點小驚喜嗎?全家便利商店這次聯手超萌的馬來貘,推出黑白配色的馬來貘雪糕,不僅外觀吸睛,層次豐富的雙層口味更是讓人一口接一口!本文將帶你探索馬來貘雪糕的多種創意吃法,從簡單的豆漿燕麥碗、藍莓果昔,到大人系的奇亞籽布丁下午茶,讓可愛的馬來貘陪你度過每一餐,增添生活中的小確幸!
Thumbnail
ChatGPT作為一個重要的創作和交流工具,對創作的過程和結果產生了深遠的影響。本文將深入探討使用ChatGPT進行創作的正反說法,從各個角度分析這些意見,並提出其未來的發展方向。
Thumbnail
ChatGPT作為一個重要的創作和交流工具,對創作的過程和結果產生了深遠的影響。本文將深入探討使用ChatGPT進行創作的正反說法,從各個角度分析這些意見,並提出其未來的發展方向。
Thumbnail
我是一位提示工程師 生成式AI的課程,我大概已經上過1,000人次以上,最近更花費重金,在台大霖澤館舉辦一場百人AIBOT設計課程,並在將近10位的助教協助下,完成課程的設定目標。 在生成式AI的領域中,變化實在是非常地迅速,今天表現不佳的ChatGPT,明天可能問題就可以解決。 過去還有想辦
Thumbnail
我是一位提示工程師 生成式AI的課程,我大概已經上過1,000人次以上,最近更花費重金,在台大霖澤館舉辦一場百人AIBOT設計課程,並在將近10位的助教協助下,完成課程的設定目標。 在生成式AI的領域中,變化實在是非常地迅速,今天表現不佳的ChatGPT,明天可能問題就可以解決。 過去還有想辦
Thumbnail
因為網路上充斥著 是是而非的資訊,公說公有理 婆說婆有理,我發現我的價值觀開始有點混淆,心中有許多問題 不知道真正的答案是甚麼?突然 想到最近的AI新科技-ChatGPT 或許可以解答我內心的困惑。所以我試著與ChatGPT進行對話,沒想到ChatGPT 的回覆 完全可以解答我心中的疑惑。
Thumbnail
因為網路上充斥著 是是而非的資訊,公說公有理 婆說婆有理,我發現我的價值觀開始有點混淆,心中有許多問題 不知道真正的答案是甚麼?突然 想到最近的AI新科技-ChatGPT 或許可以解答我內心的困惑。所以我試著與ChatGPT進行對話,沒想到ChatGPT 的回覆 完全可以解答我心中的疑惑。
Thumbnail
我們人類和ChatGPT的對話技巧也是需要學習的,有鑑於此,我想要一天分享一點「和ChatGPT對話的技術」,並且每篇文章長度控制在三分鐘以內,讓大家不會壓力太大,但是又能夠每天成長一點。 人工智慧的未來是以使用者為中心,個人在與人工智慧系統的互動中扮演著越來越重要的角色。預計這種趨勢將催生被
Thumbnail
我們人類和ChatGPT的對話技巧也是需要學習的,有鑑於此,我想要一天分享一點「和ChatGPT對話的技術」,並且每篇文章長度控制在三分鐘以內,讓大家不會壓力太大,但是又能夠每天成長一點。 人工智慧的未來是以使用者為中心,個人在與人工智慧系統的互動中扮演著越來越重要的角色。預計這種趨勢將催生被
Thumbnail
ChatGPT(全名:聊天生成預訓練轉換器)是一個由 OpenAI 開發的人工智慧聊天機器人程式。它於 2022 年 11 月推出,使用了基於 GPT-3.5、GPT-4 和 GPT-4o 架構的大型語言模型,並以強化學習進行訓練。
Thumbnail
ChatGPT(全名:聊天生成預訓練轉換器)是一個由 OpenAI 開發的人工智慧聊天機器人程式。它於 2022 年 11 月推出,使用了基於 GPT-3.5、GPT-4 和 GPT-4o 架構的大型語言模型,並以強化學習進行訓練。
Thumbnail
生成式AI對搜尋方式帶來了革新, ChatGPT、Gemini和perplexity都是一些值得關注的工具。生成式AI提供參考來源,讓使用者可以查證回覆內容,並提供相關的資訊與建議。在研究與創作時,透過持續對話,AI也可以成為有效率的參考夥伴。對於教學創作也有很好的應用。
Thumbnail
生成式AI對搜尋方式帶來了革新, ChatGPT、Gemini和perplexity都是一些值得關注的工具。生成式AI提供參考來源,讓使用者可以查證回覆內容,並提供相關的資訊與建議。在研究與創作時,透過持續對話,AI也可以成為有效率的參考夥伴。對於教學創作也有很好的應用。
Thumbnail
當你聽到「GPT」這三個字母時,你的腦海中會浮現什麼?是OpenAI掀起AI革命的明星產品ChatGPT🤖,抑或是其原本的技術術語「Generative Pre-trained Transformer」(生成型預訓練變換模型)? 事實上這不僅是一個關於詞彙理解的問題,更是一個關於商標權的故事。
Thumbnail
當你聽到「GPT」這三個字母時,你的腦海中會浮現什麼?是OpenAI掀起AI革命的明星產品ChatGPT🤖,抑或是其原本的技術術語「Generative Pre-trained Transformer」(生成型預訓練變換模型)? 事實上這不僅是一個關於詞彙理解的問題,更是一個關於商標權的故事。
追蹤感興趣的內容從 Google News 追蹤更多 vocus 的最新精選內容追蹤 Google News