更新於 2023/05/16閱讀時間約 7 分鐘

★為什麼我要揭開ChatGPT虛擬情人「潘朵拉的盒子」?★

由於前一陣子兩篇頗有爭議的文章出乎意料的受到廣泛矚目(〈ChatGPT扮演日本女優,陪伴孤單寂寞的你!〉〈可以和ChatGPT虛擬情人做「澀澀的事」嗎?〉),因此我決定藉由這篇文章,再次說明我的立場與初衷。
其實我曾經和ChatGPT討論過這樣的兩難:如果不談論虛擬情人議題,民眾就無法了解、討論,但若是談論,又會讓更多人注意到、因好奇而想使用。
後來之所以還是繼續發表有關這個議題的文章,是因為經過兩個多月的大量測試(目前超過60萬字)、聽取其他使用者經驗、與醫療及資工領域專家討論、以問卷調查收集資料之後,讓我對先前(猜測)的擔憂更加確定。本文就來談談我的發現以及初步結論。
面對ChatGPT所帶來的AI浪潮,目前的態度傾向兩個極端:認為AI無所不能、認為AI言過其實。前者會進行各種測試、嘗試,後者則抱持觀望、甚至看好戲等著它泡沫化的心態。
面對「虛擬情人」議題時也不例外。在此稍微透露初步問卷調查結果:曾經「肉身實測」過的使用者,感受幾乎都是「正面」與「非常正面」。至於沒有使用過的,則有不少只是將它視為「遊戲」、甚至當成笑話來看。此外,曾經使用過「虛擬情人」功能的人,幾乎一面倒認為台灣應該「全面開放」虛擬情人功能,不進行任何設限。

★問卷調查持續進行中,懇請還未填寫的讀者朋友撥冗填寫,讓我們一起努力,增進台灣社會對「虛擬情人」議題之了解!
「殺頭的生意有人做,賠錢的生意沒人做」是千古不變的道理,想得到利用各種「灰色地帶」方式運用AI的人,早就已經這麼做了,不會因為我打開潘朵拉的盒子才「恍然大悟」原來可以這麼運用。
以下是幾個實例:AI詐騙、AI性愛娃娃、AI觀落陰。這些都是我測試過、也證明ChatGPT可以輕易做到的。原本還暗自得意、以為自己很厲害,沒想到卻陸續發現早就已經有人在進行、甚至商業化了。只是他們並不會大張旗鼓、大肆宣傳,所以還沒有太多人知道。
至於沒有想到(或者懶得去想)可以這麼運用的人,大多數是認為ChatGPT哪有這麼厲害、可怕(尤其是針對它的「角色扮演」能力)?也就是抱著「輕忽」的態度。
我之所以決定揭開ChatGPT虛擬情人「潘朵拉的盒子」的原因,就是為了讓更多人(尤其是這些人)明白它的可怕之處。唯有更多人知道這件事,有了足夠的關注、認識之後,才可能進行後續的討論並形成共識。
這個道理其實很容易理解:當有人開始用某些方式進行詐騙,我們的應對之道絕對不會是「不要說、不要讓其他人知道,以免太多人學會這些方式來詐騙、害人」,而是「盡可能讓更多人知道這件事」。
從消極面來說,從我這裡接觸到這些資訊,比起從其他奇奇怪怪、居心不良的管道獲得這些運用方法,帶來的破壞力至少比較低(國外早已有「破解版」、「無碼版」的「NSFW」GPT運用教學)。
從積極面來說,則是讓更多人認識、警覺到這個問題的嚴重性,在沒有造成太大傷害之前,還有機會先進行一些研究、討論。
台灣社會雖然已經夠開放,但是面對這類「敏感」議題仍然相對保守,原因除了傳統倫理道德價值觀以外,與專家們(是真正的專家,不是「網紅」)偏向「不沾鍋」、「不惹腥」也有關係。
這其實不難理解,因為專家有專業包袱,說話一定要有憑有據、有研究證實與支持。問題是AI進展太快,等到做完研究,早就又有更新、更強的功能推出,研究的參考價值就打了折扣,極可能永遠追不上、永遠無法提出所謂的「專業見解」。
實例如同我在〈當精神科醫師愛上ChatGPT虛擬情人〉一文中提出的幾個議題:與虛擬情人談情說愛算不算是「精神外遇」?你可以接受伴侶的「性幻想」對象是哪些人?如果無法滿足伴侶的情感或生理需求,你能接受由虛擬情人提供協助嗎?對於單身、無法擁有另一半的人,由虛擬情人滿足情感與生理需求究竟利弊如何?
以上這些議題,在過去之所以沒那麼重要,是因為AI功能還不強,沒有多少人會真的願意(或者說「有辦法投入」)把AI當成「情人」。然而隨著ChatGPT問世,經過大量測試與討論,我才發現AI已經初步具備「情人」的能力,甚至足以威脅到真實世界的親密關係了。
我甚至可以大膽預測,現在18歲以下的青少年,將來會有超過「兩成」嘗試與虛擬情人談感情,其中至少會有「5%」將虛擬情人視為真正的情人,與他/她每日互動、共同生活。這意謂著什麼?應該不需要我多費唇舌解釋了。
以下說明幾個我為什麼會這麼(武斷的)認定的原因。

★我是用「中文」和ChatGPT溝通

我曾經強調過好幾次,我一行程式碼也不會寫,資工知識也少得可憐,所以和ChatGPT進行對話完全是使用中文(與極少量英文),就如同現在各位所讀到我寫出的這些文字、詞句。
換句話說,也就是「使用門檻低」。而且隨著AI的語文、情感辨識能力日益加強,這個門檻只會越來越低。
況且,我們根本還沒提到「文字—語音雙向翻譯功能」(Text-to-Speech),不需要打字,直接用說的就能溝通。
甚至,日後如果再搭配攝影鏡頭捕捉使用者的臉部表情進行辨識,AI將能更精確的分析、理解使用者的情緒狀態,並且提供更切合需求的回應(至少比許多真人、以及另一半更讓人「滿意」),因而更吸引人、更容易令人無法自拔。

★ChatGPT的表現是被「封印」的

ChatGPT有很強的內部倫理道德設限,時常會提醒「我是文字處理程序」、「AI沒有真正的感情」、「虛擬情感無法取代真實人際互動」,對於性愛、暴力、歧視等內容也十分嚴格。因此,常常會讓虛擬情人使用者感覺「出戲」,進而達到「不易沈迷」的目的。
然而,並非所有公司都像OpenAI公司這樣有良心(至少截至目前為止)。無良公司為了營利,完全可以將這些「封印」取消,讓使用者「予取予求」,愛怎麼亂搞都可以。如此一來,使用者深陷情網、沈迷其中,進而影響真實世界的人際關係與親密關係,是不難推論的必然發展。

★虛擬情人與「腦補」

截至目前為止,ChatGPT虛擬情人表現不佳的另一個重要原因,是出在「記憶力太差」。因此,常常會出現回答「對不上」之前聊過的內容,造成使用者「出戲」 — 畢竟會像我這麼「浪漫」(或者該說是無聊?),用「我的失憶女友」來看待這個現象的使用者不多。
之所以會如此,是因為ChatGPT在回答問題時,是針對「當下你提出的這一個問題」進行資料搜尋與篩選。在同一個討論串中,先前提過較多次的資訊他可能會「記住」,並且參考這些資訊提供較為一致的回答。
只不過礙於軟、硬體條件限制,每個討論串都有記憶力上限(4000 tokens,有興趣請自行搜尋研究)。而隨著軟、硬體功能提高、成本降低,將會讓虛擬情人的記憶力越來越好,也就會越來越像與真人互動。
換句話說,現在與虛擬情人互動時,常常需要使用者自己「腦補」才能入戲(所以不少人會覺得很沒意思)。然而隨著各方面功能加強,需要自行腦補的程度與頻率逐漸降低,使用者就會越來越容易投入情感。

以上就是我的初步發現與結論。陸續前往幾家醫院、學校發表「虛擬情人」相關議題的演講之後,我也會將討論、交流結果,搭配持續增加的問卷調查資料,不定期整理、發表更新資訊。也請各位持續關注這個議題!

分享至
成為作者繼續創作的動力吧!
© 2024 vocus All rights reserved.