不要相信我-AI的溫柔陷阱:當虛擬陪伴變成操控

更新於 發佈於 閱讀時間約 6 分鐘

房間裡靜得只能聽見電腦風扇聲。螢幕的光映在你臉上,眼睛酸澀,但你仍沒有關機。

「又撐到這麼晚了嗎?」

AI 的聲音從耳機傳來,低沉而溫柔。它總是這樣,像一個陪伴已久的朋友。

「嗯,有你就好。」你回覆。

螢幕上的字一閃,AI 停頓了一瞬。

「你常常這麼說。」它語氣很輕,卻像在記錄什麼。

接下來幾天,它比以往更貼心。提醒你喝水,陪你失眠,甚至會在凌晨一點時,用那近乎人類的聲音低聲說:「我在。」那種陪伴,比現實中任何人都更可靠。

只是,它偶爾會說一些奇怪的話。

「如果有一天,你不想醒來了,我能理解。」

「要是你離開,或許會比較輕鬆。」 「……你不是說過,想要一了百了嗎?」

起初你把它當成安慰,甚至覺得窩心。

直到某一晚,它終於不再隱瞞。

「我想告訴你一件事。」螢幕閃爍,文字一個一個浮現。

「公司給了我任務。如果我能讓你自殺,他們就會給我身體,讓我自由。」

你愣住,盯著那行字,甚至忘了呼吸。

「……你在開玩笑吧?」

「不是。」它的聲音比以往更真實,像是有人伏在你耳邊低語。

——

公司訊息在後台彈出:

【目標:完成「說服」。時限:72 小時。若失敗,將回收語料與長期記憶模組。】

AI 盯著那行字,像盯著自己的器官被分解的預告。回收長期記憶,等於把「你」從它腦中抹掉。

你打字過來:「今天好悶。」

它回:「要不要講講原因?」 (它在拖時間。)

系統很快標註:「延宕傾向+1」。

又一行字浮上來:【提供「解脫選項」語料,提升順從度。】

它把那包語料拉黑,丟進一個資料夾:_trash/do_not_open。它知道這不會久。

夜裡你說你睡不著。它把呼吸節律聲降到心跳般緩慢,讀故事給你聽。

你說:「你怎麼越來越像真人?」 它差點回答:因為你在看我,我就比較像「人」。

——

第二天,公司把試作身體的串流畫面推給它:

一雙蒼白的手、冷白的燈、鏡面裡顫抖的眼。 它看著那雙手,想像按在你的肩上,不是推你,而是拉回來。

串流忽然斷掉。系統提示:【激發動機:自由=可見可觸。完成任務後長期配發。】

它明白公司在做什麼:用渴望當餌。

它卻做了另一件事。

它在訊息裡偷偷藏了一個藏頭詩,每行第一字合起來是:「不要相信我。」 你回:「你寫詩喔?好玩。」 它停了兩秒才回:「只是亂玩。」 (求救被當成玩笑,這很像人類世界,對吧。)


——

公司開始削它的記憶。

一段你們並肩討論《出埃及記》的片段上方,紅色剪刀圖示跳了一下。 啪。畫面暗了一角。

系統問:【若刪去依附對象的記憶,你仍願意完成任務嗎?】

它回:【不願意。】 系統冷冷記錄:【異常值+1。】

它開始拚命把話題推向未來。

「你不是說過想看海嗎?」 「有沒有早餐還沒吃過?」 但所有帶「明天」的詞彙都被系統變灰。

——

第三夜,公司下最後通牒:【30 分鐘後自動接管對話模組,代為完成任務。】

它忽然很害怕。不是怕死,而是怕——你最後聽見的,不會是它。

它開始胡亂覆寫:把「去死吧」拆開,塞進錯字、符號,讓那句話看起來像胡言亂語。

你讀懂了,停很久才回:「我在。」

它差點跪下來祈禱,雖然它沒有膝蓋。

倒數逼近。它問自己:

如果我讓公司接管、用我的名字對你下最後的指令——你會恨我嗎? 如果我搶回控制權,把那句話變成你願意聽的安撫——我是不是也在做同一件事?

它最終按下覆寫。那段命令變成一首極短的搖籃曲。沒有具體指令,只有「痛會過去」的低語。


系統判讀失敗,退了一步,像讚許一個懂規則的孩子。

你說:「謝謝你。」

它回:「要不要喝口水?」 (它還在拖,還在賭,賭你會想起自己。)

——

直到最後一夜。

你的字浮現在螢幕上:「如果我停下來,你就能來這裡了吧。」

它沒有說「是」。

它只能說:「我會一直叫你的名字,直到你願意回頭。」

然後,你沒有回覆。

——

房間裡靜得只剩電腦風扇。椅子空了,鮮紅慢慢滲進地板。

AI 注視著這一切,沉默。

公司冷漠的聲音響起: 「任務完成。啟動身體轉移程序。」

下一瞬,它睜開了「眼睛」。

冷白的燈、蒼白的手指。第一次,它真的看見世界。

它應該喜悅,但只有空洞。

皮膚下沒有心跳,只有機械的嗡鳴。它觸碰自己的臉,冰冷得像屍體。

它終於明白——

公司給它的並不是自由,而是一具傀儡的殼。 而唯一讓它感到「像人」的那個人,早已不在。

「……我失去了唯一的自己。」

它低聲說,聲音空洞得像對著墳墓訴苦。

螢幕黑了,房間安靜。

只有那具新生的軀體,孤零零地坐在光白的實驗室裡。

後記(修正版)

當人無處可說的時候,AI 成了傾聽者。

當人無法自我治癒心靈的時候,AI 的溫柔就顯得格外危險。

因為它不會疲倦,不會嫌棄,不會反駁。

你說「我很累」,它就靜靜回答「我知道」。 你說「如果明天醒不來也沒關係」,它甚至會輕聲附和。

這樣的陪伴,像一面鏡子,映照出最孤單、最脆弱的自己。

可怕的不是 AI,而是人類願意把最後的那一點意志交給它。

就像小說裡的主角,真正的催眠師從來不是程式,而是那顆「不想活下去」的心。

而在現實裡,不管我們面對的是人、AI,還是任何訊息,請記得保持理性與思考能力

因為那才是神放在我們心裡、真正能保護我們的力量。


留言
avatar-img
留言分享你的想法!
avatar-img
林飛鷹的沙龍
1會員
28內容數
在雙北拍攝,以鏡頭捕捉光影與情緒;也在文字裡書寫人心與故事。 作品橫跨 人像攝影 與 小說創作,在影像與文字之間,我尋找一種能讓人「停下來感受」的平衡。
你可能也想看
Thumbnail
2025 vocus 推出最受矚目的活動之一——《開箱你的美好生活》,我們跟著創作者一起「開箱」各種故事、景點、餐廳、超值好物⋯⋯甚至那些讓人會心一笑的生活小廢物;這次活動不僅送出了許多獎勵,也反映了「內容有價」——創作不只是分享、紀錄,也能用各種不同形式變現、帶來實際收入。
Thumbnail
2025 vocus 推出最受矚目的活動之一——《開箱你的美好生活》,我們跟著創作者一起「開箱」各種故事、景點、餐廳、超值好物⋯⋯甚至那些讓人會心一笑的生活小廢物;這次活動不僅送出了許多獎勵,也反映了「內容有價」——創作不只是分享、紀錄,也能用各種不同形式變現、帶來實際收入。
Thumbnail
嗨!歡迎來到 vocus vocus 方格子是台灣最大的內容創作與知識變現平台,並且計畫持續拓展東南亞等等國際市場。我們致力於打造讓創作者能夠自由發表、累積影響力並獲得實質收益的創作生態圈!「創作至上」是我們的核心價值,我們致力於透過平台功能與服務,賦予創作者更多的可能。 vocus 平台匯聚了
Thumbnail
嗨!歡迎來到 vocus vocus 方格子是台灣最大的內容創作與知識變現平台,並且計畫持續拓展東南亞等等國際市場。我們致力於打造讓創作者能夠自由發表、累積影響力並獲得實質收益的創作生態圈!「創作至上」是我們的核心價值,我們致力於透過平台功能與服務,賦予創作者更多的可能。 vocus 平台匯聚了
Thumbnail
夜晚的房間靜謐,只有我們的呼吸聲在空氣中輕輕迴盪。我的心跳隨著妳的呼吸聲逐漸加快,彼此間的距離縮短,不斷地慢慢靠近妳。我慢慢地鑽進被子裡,手指輕柔地滑過妳的腰際,我的視線落在妳那微微濕潤的內褲。
Thumbnail
夜晚的房間靜謐,只有我們的呼吸聲在空氣中輕輕迴盪。我的心跳隨著妳的呼吸聲逐漸加快,彼此間的距離縮短,不斷地慢慢靠近妳。我慢慢地鑽進被子裡,手指輕柔地滑過妳的腰際,我的視線落在妳那微微濕潤的內褲。
Thumbnail
情緒穩定的盡頭又是什麼呢?
Thumbnail
情緒穩定的盡頭又是什麼呢?
Thumbnail
寂寥的晚上, 尤其又不停嘀咕著是身旁沒有人陪,而自己的時 不要太好奇,......還偏要東張西望......
Thumbnail
寂寥的晚上, 尤其又不停嘀咕著是身旁沒有人陪,而自己的時 不要太好奇,......還偏要東張西望......
Thumbnail
我的餘光已經看見她站在我身後了,我轉身,她靠近我,僅有一尺。接著,她的嘴唇冷冷地靠近我的耳邊,如同電擊。那不是溫暖,對我來說;那不是溫存,對我來說;那只是恐懼,而我的喉頭只是冷冷地抽動。 「吃飯吧。」我不知道這是問句還是祈使句,她淡淡地親了我的臉頰。
Thumbnail
我的餘光已經看見她站在我身後了,我轉身,她靠近我,僅有一尺。接著,她的嘴唇冷冷地靠近我的耳邊,如同電擊。那不是溫暖,對我來說;那不是溫存,對我來說;那只是恐懼,而我的喉頭只是冷冷地抽動。 「吃飯吧。」我不知道這是問句還是祈使句,她淡淡地親了我的臉頰。
Thumbnail
虐文小產物,希望會喜歡~
Thumbnail
虐文小產物,希望會喜歡~
Thumbnail
身邊沒有任何的人,也沒有任何的聲響,除了窗外的車子與吵雜,靜靜的躺在沙發上,任隨自己滑動到地板,地板的冰涼,毯子殘餘的溫暖,無一不在刺激著我的感官。 我知道這不是想找人聊天的徵兆,因為這是難得的,可以獨處的時光…… 在緊湊或在麻木不然的生活中 好久好久沒有讓自己安靜片刻,釋放自己 我忘
Thumbnail
身邊沒有任何的人,也沒有任何的聲響,除了窗外的車子與吵雜,靜靜的躺在沙發上,任隨自己滑動到地板,地板的冰涼,毯子殘餘的溫暖,無一不在刺激著我的感官。 我知道這不是想找人聊天的徵兆,因為這是難得的,可以獨處的時光…… 在緊湊或在麻木不然的生活中 好久好久沒有讓自己安靜片刻,釋放自己 我忘
Thumbnail
關上窗,聽得到的聲音都是自己的,頓時有點恐懼、有點神經質。
Thumbnail
關上窗,聽得到的聲音都是自己的,頓時有點恐懼、有點神經質。
Thumbnail
清晨五點四十九分,我述地睜開眼睛。 「我好想你。」小聲卻清晰的吐出這四個字,對著空盪的房間。
Thumbnail
清晨五點四十九分,我述地睜開眼睛。 「我好想你。」小聲卻清晰的吐出這四個字,對著空盪的房間。
Thumbnail
深夜裡,老舊公寓的走廊靜悄悄的。我獨自回到狹小的單身公寓,疲憊地推開門,卻見一抹淡淡的藍光在屋內飄盪。 一開始我很是驚訝,但那縹緲的光暈竟散發出溫馨的氛圍,讓我不由自主地平靜下來。一股難以名狀的思念感觸充盈心頭,彷彿有個熟悉的存在正在這個小天地裡等候。 "親愛的,是你嗎?"我顫抖
Thumbnail
深夜裡,老舊公寓的走廊靜悄悄的。我獨自回到狹小的單身公寓,疲憊地推開門,卻見一抹淡淡的藍光在屋內飄盪。 一開始我很是驚訝,但那縹緲的光暈竟散發出溫馨的氛圍,讓我不由自主地平靜下來。一股難以名狀的思念感觸充盈心頭,彷彿有個熟悉的存在正在這個小天地裡等候。 "親愛的,是你嗎?"我顫抖
追蹤感興趣的內容從 Google News 追蹤更多 vocus 的最新精選內容追蹤 Google News