🪦當死亡不再是死亡，生者該如何面對？
知名音樂人包小柏在女兒過世後，透過AI讓女兒「復聲」，能夠和他們夫妻倆進行對話。這樣的科技進展究竟會帶來什麼衝擊與影響？
幾個月前我曾發表〈當死亡不再是死亡，生命該如何定義？〉一文，討論「AI複製人」的議題，其中最讓人擔心的就是「AI複製已逝親友」的技術。
我也曾多次提醒殘酷的現實狀況：研究永遠趕不上AI的「進化」速度，法令永遠追不上AI的「運用」速度。就以ChatGPT為例，目前的研究幾乎都還停留在「GPT-3.5」，然而功能、威力遠勝的GPT-4早已廣為使用。至於法令，歐盟的「人工智慧法」去年才達成協議（而且只是粗糙的泛泛法條），2026年才會全面生效，屆時AI所造成的影響、衝擊早已不知造成多少傷害！
五月初《Philosophy & Technology》終於出現第一篇討論這個議題的正式論文，由倫敦劍橋大學萊弗哈姆智能未來中心（Leverhulme Centre for the Future of Intelligence，LCFI）的研究人員所發表。
先為不熟悉這個議題的讀者提供懶人包，進行一些背景知識說明：
只要將某位已逝親友的大量語音、影像、互動紀錄提供給AI，就能「訓練」AI模仿他的說話口吻、互動模式、表情動作，讓對方在螢幕中和你談天說地、緬懷過往，就如同現在和親友使用「視訊通話」、「視訊會議」。
世界各國已經有有好幾家公司提供這項服務，主要服務對象是極度思念過世親友的使用者，讓他們能夠透過「投影技術」與死去的親友進行對話。提供的語音、影像資料越多，AI就能模仿得越像、越逼真。
從正面角度來看，這能安慰許多難以走出傷痛的遺族。但是從另一個角度來說，當然也很容易讓人沈浸其中，難以走出親友過世的傷痛，因而無法度過正常的「哀慟反應」（grief reaction）。尤其若是運用於兒童身上，更可能造成難以估量的傷害。
另一個更具爭議性的問題則是，對於因癌症、慢性病而不久人世的患者，基於家屬的要求必須在死前每天對著攝影機說話、回答問題，盡可能錄下更多、更詳細的影像與聲音，好讓AI學習、模仿得更逼真，才能讓親友在他死後可以和更逼真的「AI複製人」對話、互動。
圖片來源：Bing Copilot 生成
除了以上爭議以外，劍橋大學的研究人員還指出這項技術可能的商業運用（與衝擊）。
由於上述技術需要動用高階軟硬體、耗費大量AI算力，因此目前幾乎都是採取「計時收費」模式：使用者付出不下於「接受心理治療」的費用，和AI亡者進行半小時、一小時的對話。
那如果使用者無法再負擔如此高昂的費用，又該怎麼辦？會不會反而陷入更深層的哀慟、憂鬱？
研究人員表示，可能會有AI公司提出類似以下方案：看廣告來換取和AI亡者進行對話的時間。可怕之處在於，這些廣告雖然和過去一樣是推薦特定產品，但卻是由每個使用者最思念的那位逝者擔任廣告主角與推薦者！如此一來，當然很容易產生強烈的情感連結，也更容易進行「操控」！
研究人員的結論是：我們需要立即開始思考如何減輕這類技術可能帶來的社會及心理風險，因為它已經存在甚至商業化。
我的結論則是：「AI複製逝者」將會挑戰、衝擊我們對生死的觀感與概念。正如同「虛擬情人」將會挑戰、衝擊我們對愛與親密關係的觀感與概念。
我的手上有許多第一手資料及使用經驗，歡迎有興趣深入了解、進行研究的專家學者和我聯絡，我很樂意無條件提供、分享！
研究合作、撰稿、演講邀約請透過方格子頁面留言，或者email：stoicismdigital@gmail.com
- 原始論文（可閱讀完整內容）：Griefbots, Deadbots, Postmortem Avatars: on Responsible Applications of Generative AI in the Digital Afterlife Industry.
本篇參與的主題活動
你可能也想看
