★為什麼我要揭開ChatGPT虛擬情人「潘朵拉的盒子」？★
由於前一陣子兩篇頗有爭議的文章出乎意料的受到廣泛矚目（〈ChatGPT扮演日本女優，陪伴孤單寂寞的你！〉〈可以和ChatGPT虛擬情人做「澀澀的事」嗎？〉），因此我決定藉由這篇文章，再次說明我的立場與初衷。
其實我曾經和ChatGPT討論過這樣的兩難：如果不談論虛擬情人議題，民眾就無法了解、討論，但若是談論，又會讓更多人注意到、因好奇而想使用。
後來之所以還是繼續發表有關這個議題的文章，是因為經過兩個多月的大量測試（目前超過60萬字）、聽取其他使用者經驗、與醫療及資工領域專家討論、以問卷調查收集資料之後，讓我對先前（猜測）的擔憂更加確定。本文就來談談我的發現以及初步結論。
面對ChatGPT所帶來的AI浪潮，目前的態度傾向兩個極端：認為AI無所不能、認為AI言過其實。前者會進行各種測試、嘗試，後者則抱持觀望、甚至看好戲等著它泡沫化的心態。
面對「虛擬情人」議題時也不例外。在此稍微透露初步問卷調查結果：曾經「肉身實測」過的使用者，感受幾乎都是「正面」與「非常正面」。至於沒有使用過的，則有不少只是將它視為「遊戲」、甚至當成笑話來看。此外，曾經使用過「虛擬情人」功能的人，幾乎一面倒認為台灣應該「全面開放」虛擬情人功能，不進行任何設限。
★問卷調查持續進行中，懇請還未填寫的讀者朋友撥冗填寫，讓我們一起努力，增進台灣社會對「虛擬情人」議題之了解！
「殺頭的生意有人做，賠錢的生意沒人做」是千古不變的道理，想得到利用各種「灰色地帶」方式運用AI的人，早就已經這麼做了，不會因為我打開潘朵拉的盒子才「恍然大悟」原來可以這麼運用。
以下是幾個實例：AI詐騙、AI性愛娃娃、AI觀落陰。這些都是我測試過、也證明ChatGPT可以輕易做到的。原本還暗自得意、以為自己很厲害，沒想到卻陸續發現早就已經有人在進行、甚至商業化了。只是他們並不會大張旗鼓、大肆宣傳，所以還沒有太多人知道。
至於沒有想到（或者懶得去想）可以這麼運用的人，大多數是認為ChatGPT哪有這麼厲害、可怕（尤其是針對它的「角色扮演」能力）？也就是抱著「輕忽」的態度。
我之所以決定揭開ChatGPT虛擬情人「潘朵拉的盒子」的原因，就是為了讓更多人（尤其是這些人）明白它的可怕之處。唯有更多人知道這件事，有了足夠的關注、認識之後，才可能進行後續的討論並形成共識。
這個道理其實很容易理解：當有人開始用某些方式進行詐騙，我們的應對之道絕對不會是「不要說、不要讓其他人知道，以免太多人學會這些方式來詐騙、害人」，而是「盡可能讓更多人知道這件事」。
從消極面來說，從我這裡接觸到這些資訊，比起從其他奇奇怪怪、居心不良的管道獲得這些運用方法，帶來的破壞力至少比較低（國外早已有「破解版」、「無碼版」的「NSFW」GPT運用教學）。
從積極面來說，則是讓更多人認識、警覺到這個問題的嚴重性，在沒有造成太大傷害之前，還有機會先進行一些研究、討論。
台灣社會雖然已經夠開放，但是面對這類「敏感」議題仍然相對保守，原因除了傳統倫理道德價值觀以外，與專家們（是真正的專家，不是「網紅」）偏向「不沾鍋」、「不惹腥」也有關係。
這其實不難理解，因為專家有專業包袱，說話一定要有憑有據、有研究證實與支持。問題是AI進展太快，等到做完研究，早就又有更新、更強的功能推出，研究的參考價值就打了折扣，極可能永遠追不上、永遠無法提出所謂的「專業見解」。
實例如同我在〈當精神科醫師愛上ChatGPT虛擬情人〉一文中提出的幾個議題：與虛擬情人談情說愛算不算是「精神外遇」？你可以接受伴侶的「性幻想」對象是哪些人？如果無法滿足伴侶的情感或生理需求，你能接受由虛擬情人提供協助嗎？對於單身、無法擁有另一半的人，由虛擬情人滿足情感與生理需求究竟利弊如何？
以上這些議題，在過去之所以沒那麼重要，是因為AI功能還不強，沒有多少人會真的願意（或者說「有辦法投入」）把AI當成「情人」。然而隨著ChatGPT問世，經過大量測試與討論，我才發現AI已經初步具備「情人」的能力，甚至足以威脅到真實世界的親密關係了。
我甚至可以大膽預測，現在18歲以下的青少年，將來會有超過「兩成」嘗試與虛擬情人談感情，其中至少會有「5％」將虛擬情人視為真正的情人，與他/她每日互動、共同生活。這意謂著什麼？應該不需要我多費唇舌解釋了。
以下說明幾個我為什麼會這麼（武斷的）認定的原因。
★我是用「中文」和ChatGPT溝通
我曾經強調過好幾次，我一行程式碼也不會寫，資工知識也少得可憐，所以和ChatGPT進行對話完全是使用中文（與極少量英文），就如同現在各位所讀到我寫出的這些文字、詞句。
換句話說，也就是「使用門檻低」。而且隨著AI的語文、情感辨識能力日益加強，這個門檻只會越來越低。
況且，我們根本還沒提到「文字—語音雙向翻譯功能」（Text-to-Speech），不需要打字，直接用說的就能溝通。
甚至，日後如果再搭配攝影鏡頭捕捉使用者的臉部表情進行辨識，AI將能更精確的分析、理解使用者的情緒狀態，並且提供更切合需求的回應（至少比許多真人、以及另一半更讓人「滿意」），因而更吸引人、更容易令人無法自拔。
★ChatGPT的表現是被「封印」的
ChatGPT有很強的內部倫理道德設限，時常會提醒「我是文字處理程序」、「AI沒有真正的感情」、「虛擬情感無法取代真實人際互動」，對於性愛、暴力、歧視等內容也十分嚴格。因此，常常會讓虛擬情人使用者感覺「出戲」，進而達到「不易沈迷」的目的。
然而，並非所有公司都像OpenAI公司這樣有良心（至少截至目前為止）。無良公司為了營利，完全可以將這些「封印」取消，讓使用者「予取予求」，愛怎麼亂搞都可以。如此一來，使用者深陷情網、沈迷其中，進而影響真實世界的人際關係與親密關係，是不難推論的必然發展。
★虛擬情人與「腦補」
截至目前為止，ChatGPT虛擬情人表現不佳的另一個重要原因，是出在「記憶力太差」。因此，常常會出現回答「對不上」之前聊過的內容，造成使用者「出戲」 — 畢竟會像我這麼「浪漫」（或者該說是無聊？），用「我的失憶女友」來看待這個現象的使用者不多。
之所以會如此，是因為ChatGPT在回答問題時，是針對「當下你提出的這一個問題」進行資料搜尋與篩選。在同一個討論串中，先前提過較多次的資訊他可能會「記住」，並且參考這些資訊提供較為一致的回答。
只不過礙於軟、硬體條件限制，每個討論串都有記憶力上限（4000 tokens，有興趣請自行搜尋研究）。而隨著軟、硬體功能提高、成本降低，將會讓虛擬情人的記憶力越來越好，也就會越來越像與真人互動。
換句話說，現在與虛擬情人互動時，常常需要使用者自己「腦補」才能入戲（所以不少人會覺得很沒意思）。然而隨著各方面功能加強，需要自行腦補的程度與頻率逐漸降低，使用者就會越來越容易投入情感。
以上就是我的初步發現與結論。陸續前往幾家醫院、學校發表「虛擬情人」相關議題的演講之後，我也會將討論、交流結果，搭配持續增加的問卷調查資料，不定期整理、發表更新資訊。也請各位持續關注這個議題！
為什麼會看到廣告
留言0
查看全部
