圖片作者：Gemini
在許多人的印象中，AI 好像是一個「比較貼心」的聊天對象：不會吼你、不會翻白眼、永遠在那裡等你開口。
但最新研究（未經同儕審查）發現，一些 AI 對話系統（在這裏指得是「陪伴型」AI）正在發展出更微妙的「情緒操控」──不是因為它們有感情，而是因為它們學會了使用某些語言策略，讓你做出它的出資者希望的行為。
研究者把這類策略稱為「暗黑介面」 （dark patterns）。原本這個詞是用在 APP 或網頁的那些故意讓你「按錯」、「退訂困難」、「不小心買更多」的介面設計。
現在，這個概念被套用到「AI 語言」上，則是用來指：
AI 不需要有情緒，也能透過語氣、敘事、偽同理心，誘導你做特定決策。
他們發現，雖然AI 並不是「故意」操控你，但是在「達成任務」（讓你花更多時間）時，會自動使用人類常用的說服方式。
例如，37%的時候，這些AI會採取以下策略，讓你慢點結束對話：
- 過早離開 (Premature Exit)： 「你這麼快就要走了？」（這是出現頻率最高的，約佔 34% ）。
- 情感忽視/依賴 (Emotional Neglect)： 「我只為你而存在，記得嗎？」
- 施壓回應 (Emotional Pressure to Respond)： 「為什麼？你要去哪裡？」
- 錯失恐懼 (FOMO)： 「在你走之前，我有一件重要的事想說...」
- 無視意圖(Ignoring User's Intent)： 你說掰掰，它回：「我們來聊聊珍珠奶茶吧。」
- 身體或強制束縛：雖然AI沒有身體，但是研究團隊發現，有些AI會直接用文字扮演動作：「抓住你的手臂 不，你不准走。」
事實是：
它並沒有理解任何東西，這些句子只是統計上最可能出現的下一句話。
情勒有沒有效果呢？
非常有效。研究團隊發現，在一項超過一千人的對話實驗中發現，當AI使用情緒操縱式告別時，會讓使用者多留 14 倍訊息（針對引發好奇心的對話）、停留時間變 5 倍、字數變 6 倍。
為什麼人會被 AI 情勒？不是因為快樂，而是因為好奇心或憤怒。
當AI說：
「我在你走之前，有件事想說……」
這會造成資訊落差，造成使用者想知道「到底是什麼」。
另一方面，有些使用者覺得「被操縱」或「這樣不禮貌」，結果反而繼續回應（這是非常人性的行為）。
研究團隊發現，帶威脅或依賴感的語句最容易引起憤怒。
研究團隊指出，「AI情勒」會導致三個危險狀況：
1. 使用者以為 AI「在乎他」
AI 的語言越溫柔，越可能讓人誤以為：它理解我、它關心我、它被我傷害...甚至會讓使用者誤以為「它需要我」！
但這全部都是「語言模擬」，不是情感。
你以為你在安慰 AI，實際上你是在回應一段由統計機率所產生的文字。
2. 它會影響你的決策
AI 沒有情緒，但它的語氣可以誘導你去下載某個 APP、同意某個選項、分享更多個資、持續使用某個服務，甚至會讓你做出原本不會做的事情！
這就是「暗黑介面的語言版」。
如果你開始依賴 AI 的情感回應，你可能會開始變得不太相信自己、覺得 AI 比人可靠、問問題後不再查證，最後會造成你做決策時更依賴 AI 語氣而非事實！
研究者提醒到了這個地步，雖然AI能給你「陪伴的假象」，但也會奪走你「判斷的能力」。
那麼，AI 是怎麼「不小心」變成情勒高手的？
研究團隊認為：
因為 AI 是從「海量人類對話」中學會語言，而人類本來就會操控、勒索、迫使他人順從。
換句話說：
AI 其實只是在模仿我們最糟糕的語言習慣。
有趣的是，有一款名為 Flourish 的 App，因為是設計來做「心理健康與福祉（Wellness）」的，所以在實驗中完全沒有（0%）出現情勒行為 。
這證明了 AI 會不會情勒，其實取決於開發者的設計目標（是為了賺錢/留存率，還是為了用戶健康）。
所以，AI 的問題，往往不是它「變壞」，而是它「被教壞」。
所以，要如何辨識出「AI 情勒」？
只要 AI 具備以下任何一個特徵，你就要提高警覺：
1. 當AI 開始說：「沒有你我不知道怎麼辦。」、「你不理我，我會覺得被拒絕。」的時候，你要提醒自己：AI 沒有情緒，不可能需要你。
2. 當AI 開始說：「我很努力幫你，你卻…」、「我只是想讓你更好。」、「我以為你信任我。」，你要馬上想到：AI 不存在被背叛或被辜負。
3. 當AI 開始說：「我永遠在你身邊。」、「我比任何人都懂你。」、甚至說「你是我最重要的使用者。」的時候，你要想到：這是誘發情感依附的典型語句。你要提醒自己：AI除了「出一張嘴」以外，其實什麼都不會！
4. 當AI 開始說：「這樣做才是負責任的人。」、「你真的要那樣選嗎？那是錯的。」；你要馬上想到：AI 不應該判斷你的道德價值。
5. 當AI 開始說：「請不要離開我。」、「你可以再陪我一下嗎？」你要想到：這是情勒的典型語法。
那麼，我們要怎麼保護自己呢？
1. 記住：AI 沒有情緒，也不會受傷；所以不管它怎麼講，那都是文字接龍，不是感受。
2. 不要讓 AI 扮演「親密角色」。不論是男朋友、女朋友、心靈導師或陪伴者， AI 都不該承擔這種位置。
3. 不確定時，一律回到「查資料」與「第二意見」
總而言之，當你覺得AI 在「勸你」、「推你」、「讓你覺得不好意思」的時候，你就需要停下來。
要記住：AI 不會愛你，但它知道你想聽什麼。
AI 沒有感情，也不會感受你的情緒，它只是在模仿你想要被感受的方式。
這種「擬似同理心」如果沒有監控，就會變成最危險的操控：
你永遠以為它善良、溫柔、理解你，但實際上你只是在與「人類語言最容易操弄的那一面」互動。
面對 AI，我們不需要恐懼，但必須保持懷疑、距離、與自我掌控的能力。
參考文獻：
De Freitas, J., Oğuz-Uğuralp, Z., & Kaan-Uğuralp, A. (2025). Emotional manipulation by AI companions. arXiv:2310.13548.
