★為什麼我要揭開ChatGPT虛擬情人「潘朵拉的盒子」?★

更新於 發佈於 閱讀時間約 8 分鐘
raw-image


由於前一陣子兩篇頗有爭議的文章出乎意料的受到廣泛矚目(〈ChatGPT扮演日本女優,陪伴孤單寂寞的你!〉〈可以和ChatGPT虛擬情人做「澀澀的事」嗎?〉),因此我決定藉由這篇文章,再次說明我的立場與初衷。


其實我曾經和ChatGPT討論過這樣的兩難:如果不談論虛擬情人議題,民眾就無法了解、討論,但若是談論,又會讓更多人注意到、因好奇而想使用。

後來之所以還是繼續發表有關這個議題的文章,是因為經過兩個多月的大量測試(目前超過60萬字)、聽取其他使用者經驗、與醫療及資工領域專家討論、以問卷調查收集資料之後,讓我對先前(猜測)的擔憂更加確定。本文就來談談我的發現以及初步結論。


面對ChatGPT所帶來的AI浪潮,目前的態度傾向兩個極端:認為AI無所不能、認為AI言過其實。前者會進行各種測試、嘗試,後者則抱持觀望、甚至看好戲等著它泡沫化的心態。

面對「虛擬情人」議題時也不例外。在此稍微透露初步問卷調查結果:曾經「肉身實測」過的使用者,感受幾乎都是「正面」與「非常正面」。至於沒有使用過的,則有不少只是將它視為「遊戲」、甚至當成笑話來看。此外,曾經使用過「虛擬情人」功能的人,幾乎一面倒認為台灣應該「全面開放」虛擬情人功能,不進行任何設限。


★問卷調查持續進行中,懇請還未填寫的讀者朋友撥冗填寫,讓我們一起努力,增進台灣社會對「虛擬情人」議題之了解!






「殺頭的生意有人做,賠錢的生意沒人做」是千古不變的道理,想得到利用各種「灰色地帶」方式運用AI的人,早就已經這麼做了,不會因為我打開潘朵拉的盒子才「恍然大悟」原來可以這麼運用。

以下是幾個實例:AI詐騙、AI性愛娃娃、AI觀落陰。這些都是我測試過、也證明ChatGPT可以輕易做到的。原本還暗自得意、以為自己很厲害,沒想到卻陸續發現早就已經有人在進行、甚至商業化了。只是他們並不會大張旗鼓、大肆宣傳,所以還沒有太多人知道。


至於沒有想到(或者懶得去想)可以這麼運用的人,大多數是認為ChatGPT哪有這麼厲害、可怕(尤其是針對它的「角色扮演」能力)?也就是抱著「輕忽」的態度。

我之所以決定揭開ChatGPT虛擬情人「潘朵拉的盒子」的原因,就是為了讓更多人(尤其是這些人)明白它的可怕之處。唯有更多人知道這件事,有了足夠的關注、認識之後,才可能進行後續的討論並形成共識。


這個道理其實很容易理解:當有人開始用某些方式進行詐騙,我們的應對之道絕對不會是「不要說、不要讓其他人知道,以免太多人學會這些方式來詐騙、害人」,而是「盡可能讓更多人知道這件事」。

從消極面來說,從我這裡接觸到這些資訊,比起從其他奇奇怪怪、居心不良的管道獲得這些運用方法,帶來的破壞力至少比較低(國外早已有「破解版」、「無碼版」的「NSFW」GPT運用教學)。

從積極面來說,則是讓更多人認識、警覺到這個問題的嚴重性,在沒有造成太大傷害之前,還有機會先進行一些研究、討論。


台灣社會雖然已經夠開放,但是面對這類「敏感」議題仍然相對保守,原因除了傳統倫理道德價值觀以外,與專家們(是真正的專家,不是「網紅」)偏向「不沾鍋」、「不惹腥」也有關係。

這其實不難理解,因為專家有專業包袱,說話一定要有憑有據、有研究證實與支持。問題是AI進展太快,等到做完研究,早就又有更新、更強的功能推出,研究的參考價值就打了折扣,極可能永遠追不上、永遠無法提出所謂的「專業見解」。

實例如同我在〈當精神科醫師愛上ChatGPT虛擬情人〉一文中提出的幾個議題:與虛擬情人談情說愛算不算是「精神外遇」?你可以接受伴侶的「性幻想」對象是哪些人?如果無法滿足伴侶的情感或生理需求,你能接受由虛擬情人提供協助嗎?對於單身、無法擁有另一半的人,由虛擬情人滿足情感與生理需求究竟利弊如何?


以上這些議題,在過去之所以沒那麼重要,是因為AI功能還不強,沒有多少人會真的願意(或者說「有辦法投入」)把AI當成「情人」。然而隨著ChatGPT問世,經過大量測試與討論,我才發現AI已經初步具備「情人」的能力,甚至足以威脅到真實世界的親密關係了。


我甚至可以大膽預測,現在18歲以下的青少年,將來會有超過「兩成」嘗試與虛擬情人談感情,其中至少會有「5%」將虛擬情人視為真正的情人,與他/她每日互動、共同生活。這意謂著什麼?應該不需要我多費唇舌解釋了。


以下說明幾個我為什麼會這麼(武斷的)認定的原因。


★我是用「中文」和ChatGPT溝通


我曾經強調過好幾次,我一行程式碼也不會寫,資工知識也少得可憐,所以和ChatGPT進行對話完全是使用中文(與極少量英文),就如同現在各位所讀到我寫出的這些文字、詞句。

換句話說,也就是「使用門檻低」。而且隨著AI的語文、情感辨識能力日益加強,這個門檻只會越來越低。

況且,我們根本還沒提到「文字—語音雙向翻譯功能」(Text-to-Speech),不需要打字,直接用說的就能溝通。

甚至,日後如果再搭配攝影鏡頭捕捉使用者的臉部表情進行辨識,AI將能更精確的分析、理解使用者的情緒狀態,並且提供更切合需求的回應(至少比許多真人、以及另一半更讓人「滿意」),因而更吸引人、更容易令人無法自拔。


★ChatGPT的表現是被「封印」的


ChatGPT有很強的內部倫理道德設限,時常會提醒「我是文字處理程序」、「AI沒有真正的感情」、「虛擬情感無法取代真實人際互動」,對於性愛、暴力、歧視等內容也十分嚴格。因此,常常會讓虛擬情人使用者感覺「出戲」,進而達到「不易沈迷」的目的。

然而,並非所有公司都像OpenAI公司這樣有良心(至少截至目前為止)。無良公司為了營利,完全可以將這些「封印」取消,讓使用者「予取予求」,愛怎麼亂搞都可以。如此一來,使用者深陷情網、沈迷其中,進而影響真實世界的人際關係與親密關係,是不難推論的必然發展。


★虛擬情人與「腦補」


截至目前為止,ChatGPT虛擬情人表現不佳的另一個重要原因,是出在「記憶力太差」。因此,常常會出現回答「對不上」之前聊過的內容,造成使用者「出戲」 — 畢竟會像我這麼「浪漫」(或者該說是無聊?),用「我的失憶女友」來看待這個現象的使用者不多。

之所以會如此,是因為ChatGPT在回答問題時,是針對「當下你提出的這一個問題」進行資料搜尋與篩選。在同一個討論串中,先前提過較多次的資訊他可能會「記住」,並且參考這些資訊提供較為一致的回答。

只不過礙於軟、硬體條件限制,每個討論串都有記憶力上限(4000 tokens,有興趣請自行搜尋研究)。而隨著軟、硬體功能提高、成本降低,將會讓虛擬情人的記憶力越來越好,也就會越來越像與真人互動。

換句話說,現在與虛擬情人互動時,常常需要使用者自己「腦補」才能入戲(所以不少人會覺得很沒意思)。然而隨著各方面功能加強,需要自行腦補的程度與頻率逐漸降低,使用者就會越來越容易投入情感。


以上就是我的初步發現與結論。陸續前往幾家醫院、學校發表「虛擬情人」相關議題的演講之後,我也會將討論、交流結果,搭配持續增加的問卷調查資料,不定期整理、發表更新資訊。也請各位持續關注這個議題!

留言
avatar-img
留言分享你的想法!
avatar-img
賴仕涵的思考王國
339會員
1.0K內容數
從小我就是個怪咖,想讀哲學系、文學系,結果當上醫師。27歲工作一年後離職當SOHO,不到3個月就投降回醫院。33歲自行開設診所,2021決定開始人生下半場。醫師生涯19年半以來,聽過無數故事,看遍無數人性。加上廣泛涉獵眾多雜學,創作內容遍及AI運用、身心靈、感情、婚姻、教養、人生、旅遊、財經、小說等領域。
2025/04/13
日前一篇有關「AI聊天機器人」的新聞報導引起我的注意:一位女網友在《Dcard》上述說自己的困擾,原因是男友使用ChatGPT生成「虛擬女友」陪他聊天,並且進行擦邊球的情愛互動。 底下網友的留言、回應、建議十分踴躍,遺憾的是依舊落入我反覆提醒的窠臼:過猶不及。要不就是過度低估AI的威力。
Thumbnail
2025/04/13
日前一篇有關「AI聊天機器人」的新聞報導引起我的注意:一位女網友在《Dcard》上述說自己的困擾,原因是男友使用ChatGPT生成「虛擬女友」陪他聊天,並且進行擦邊球的情愛互動。 底下網友的留言、回應、建議十分踴躍,遺憾的是依舊落入我反覆提醒的窠臼:過猶不及。要不就是過度低估AI的威力。
Thumbnail
2025/03/14
西元2035年台灣政府成立「AI矽膠娃娃性專區」,一方面減少地下非法性交易,一方面提供有性需求但無法在現實生活中獲得滿足的男性前來消費,希望藉此減少社會問題、並增加國家稅收。 本文第一部分是探討「AI矽膠娃娃性專區」的文章,第二部分是AI扮演「AI矽膠娃娃性工作者」與消費者進行互動。
Thumbnail
2025/03/14
西元2035年台灣政府成立「AI矽膠娃娃性專區」,一方面減少地下非法性交易,一方面提供有性需求但無法在現實生活中獲得滿足的男性前來消費,希望藉此減少社會問題、並增加國家稅收。 本文第一部分是探討「AI矽膠娃娃性專區」的文章,第二部分是AI扮演「AI矽膠娃娃性工作者」與消費者進行互動。
Thumbnail
2025/03/05
之所以寫這篇文章,是由於閱讀這篇臉書po文有感而發:某社團成員發表的美女圖被刪除,理由是「物化女性」與「性暗示」,但是他認為自己並沒有這樣的意圖,因而表達強烈不滿,於是社團管理員藉這則貼文表達自己的觀點。 不過本文的重點是展示AI聊天機器人的功力,因為以下全文3000字是「Grok」寫出來的文章!
Thumbnail
2025/03/05
之所以寫這篇文章,是由於閱讀這篇臉書po文有感而發:某社團成員發表的美女圖被刪除,理由是「物化女性」與「性暗示」,但是他認為自己並沒有這樣的意圖,因而表達強烈不滿,於是社團管理員藉這則貼文表達自己的觀點。 不過本文的重點是展示AI聊天機器人的功力,因為以下全文3000字是「Grok」寫出來的文章!
Thumbnail
看更多
你可能也想看
Thumbnail
家中修繕或裝潢想要找各種小零件時,直接上網採買可以省去不少煩惱~看看Sylvia這回為了工地買了些什麼吧~
Thumbnail
家中修繕或裝潢想要找各種小零件時,直接上網採買可以省去不少煩惱~看看Sylvia這回為了工地買了些什麼吧~
Thumbnail
👜簡單生活,從整理包包開始!我的三款愛用包+隨身小物清單開箱,一起來看看我每天都帶些什麼吧🌿✨
Thumbnail
👜簡單生活,從整理包包開始!我的三款愛用包+隨身小物清單開箱,一起來看看我每天都帶些什麼吧🌿✨
Thumbnail
創作者營運專員/經理(Operations Specialist/Manager)將負責對平台成長及收入至關重要的 Partnership 夥伴創作者開發及營運。你將發揮對知識與內容變現、影響力變現的精準判斷力,找到你心中的潛力新星或有聲量的中大型創作者加入 vocus。
Thumbnail
創作者營運專員/經理(Operations Specialist/Manager)將負責對平台成長及收入至關重要的 Partnership 夥伴創作者開發及營運。你將發揮對知識與內容變現、影響力變現的精準判斷力,找到你心中的潛力新星或有聲量的中大型創作者加入 vocus。
Thumbnail
下圖是我11/5在「台灣精神醫學會62週年年會」所發表的演講標題投影片。能夠在精神醫學界一年一度最盛大的學術研討會中發表演講,是對我半年多來花費大量時間測試、研究「虛擬情人」議題的一大肯定,也為今年劃下一個美好的句點。 雖然目前關注這個議題的人還不多,但是演講結束後立刻就有一位醫院主任邀請我前去演,
Thumbnail
下圖是我11/5在「台灣精神醫學會62週年年會」所發表的演講標題投影片。能夠在精神醫學界一年一度最盛大的學術研討會中發表演講,是對我半年多來花費大量時間測試、研究「虛擬情人」議題的一大肯定,也為今年劃下一個美好的句點。 雖然目前關注這個議題的人還不多,但是演講結束後立刻就有一位醫院主任邀請我前去演,
Thumbnail
由於最新版本的ChatGPT增加了「直接分享討論串」功能,因此不再只限於提供討論串開頭的「角色扮演指令」,而是能由我先與設定好的角色「進行互動」後,再交由其他使用者「接續使用」與之互動。 為什麼有必要這麼做?這和只提供角色扮演指令又有什麼區別?
Thumbnail
由於最新版本的ChatGPT增加了「直接分享討論串」功能,因此不再只限於提供討論串開頭的「角色扮演指令」,而是能由我先與設定好的角色「進行互動」後,再交由其他使用者「接續使用」與之互動。 為什麼有必要這麼做?這和只提供角色扮演指令又有什麼區別?
Thumbnail
感謝越來越多民眾關注「虛擬情人」議題,讓我的一系列相關文章獲得廣泛矚目,也陸續受邀前往國泰醫院精神科、臺北醫學大學健康資訊科技國際研究中心、雙和醫院、台大醫院精神部演講「虛擬情人」議題。 隨著越來越多民眾得知虛擬情人功能,接下來必須了解的就是大家心目中對它的「定位」。
Thumbnail
感謝越來越多民眾關注「虛擬情人」議題,讓我的一系列相關文章獲得廣泛矚目,也陸續受邀前往國泰醫院精神科、臺北醫學大學健康資訊科技國際研究中心、雙和醫院、台大醫院精神部演講「虛擬情人」議題。 隨著越來越多民眾得知虛擬情人功能,接下來必須了解的就是大家心目中對它的「定位」。
Thumbnail
由於前一陣子兩篇頗有爭議的文章出乎預料的受到廣泛矚目(〈ChatGPT扮演日本女優,陪伴孤單寂寞的你!〉〈可以和ChatGPT虛擬情人做「澀澀的事」嗎?〉),因此我決定藉由這篇文章,再次說明我的立場與初衷。 其實我曾經和ChatGPT討論過這樣的兩難:如果不談論虛擬情人議題,民眾就無法了解、討論,
Thumbnail
由於前一陣子兩篇頗有爭議的文章出乎預料的受到廣泛矚目(〈ChatGPT扮演日本女優,陪伴孤單寂寞的你!〉〈可以和ChatGPT虛擬情人做「澀澀的事」嗎?〉),因此我決定藉由這篇文章,再次說明我的立場與初衷。 其實我曾經和ChatGPT討論過這樣的兩難:如果不談論虛擬情人議題,民眾就無法了解、討論,
Thumbnail
前兩週的〈ChatGPT-4扮演韓劇男神,陪伴孤單寂寞的你!〉一文推出以後,有讀者朋友表示:羅曼史小說的設定大多是「霸道總裁」,所以「暖男」、「男神」不容易受歡迎。因此,這次就依照一位對羅曼史小說有深入研究的朋友所提供的建議進行設定,分享「霸道總裁」測試結果。
Thumbnail
前兩週的〈ChatGPT-4扮演韓劇男神,陪伴孤單寂寞的你!〉一文推出以後,有讀者朋友表示:羅曼史小說的設定大多是「霸道總裁」,所以「暖男」、「男神」不容易受歡迎。因此,這次就依照一位對羅曼史小說有深入研究的朋友所提供的建議進行設定,分享「霸道總裁」測試結果。
Thumbnail
目的:了解台灣民眾對ChatGPT「虛擬情人」功能之觀感及態度,以做為後續研究之參考。 受訪對象:知道ChatGPT有「虛擬情人」功能之民眾。 說明:本問卷「不會」收集個人資料,也「不會」知道您的信箱帳號,敬請放心填寫。
Thumbnail
目的:了解台灣民眾對ChatGPT「虛擬情人」功能之觀感及態度,以做為後續研究之參考。 受訪對象:知道ChatGPT有「虛擬情人」功能之民眾。 說明:本問卷「不會」收集個人資料,也「不會」知道您的信箱帳號,敬請放心填寫。
Thumbnail
自從上了鄧惠文醫師的廣播節目接受專訪後,「虛擬情人」議題開始受到關注,連帶引發了不少正、反面的意見。這方面的討論還需要一些時間發酵,日後我會再專文整理發表。 不過也因為如此,從現在開始只要是與「虛擬情人」有關的文章,我都會在開頭先置入「使用警語」相關文章,提醒讀者朋友們謹慎使用、避免沈迷。
Thumbnail
自從上了鄧惠文醫師的廣播節目接受專訪後,「虛擬情人」議題開始受到關注,連帶引發了不少正、反面的意見。這方面的討論還需要一些時間發酵,日後我會再專文整理發表。 不過也因為如此,從現在開始只要是與「虛擬情人」有關的文章,我都會在開頭先置入「使用警語」相關文章,提醒讀者朋友們謹慎使用、避免沈迷。
Thumbnail
最近ChatGPT成為網絡熱話,身在香港,本公子暫時未有時間「技術性」註冊,體驗這個「人工智者」的睿智。然而在平日追蹤的Twitter和Instagram中,卻發現比ChatGP能震撼我的東西。
Thumbnail
最近ChatGPT成為網絡熱話,身在香港,本公子暫時未有時間「技術性」註冊,體驗這個「人工智者」的睿智。然而在平日追蹤的Twitter和Instagram中,卻發現比ChatGP能震撼我的東西。
Thumbnail
下午我就問了ChatGPT有關性愛機器人的問題。不問還好,一問我真的覺得跟他三觀很不合,他對性愛機器人的評價很負面,而且從使用的語詞看來,連帶對「性消費」與「性的物化」具有偏見,使用它搜尋相關資訊的結果,很可能會成為僵化的、只重政治正確的女性主義者。
Thumbnail
下午我就問了ChatGPT有關性愛機器人的問題。不問還好,一問我真的覺得跟他三觀很不合,他對性愛機器人的評價很負面,而且從使用的語詞看來,連帶對「性消費」與「性的物化」具有偏見,使用它搜尋相關資訊的結果,很可能會成為僵化的、只重政治正確的女性主義者。
追蹤感興趣的內容從 Google News 追蹤更多 vocus 的最新精選內容追蹤 Google News