如果有一天,AI 已經進步到擁有個人意識與情感,你能認同它也是個「人」嗎?
而如果那個時候,人類也能像 AI 一樣將大腦解析成數據,在死前將意識上傳雲端、達到永生,你會選擇上傳嗎?
《告別》是韓國作家金英夏推出的科幻小說,背景設定在人與機器人的界線逐漸模糊化的近未來世界──機器人已經隨著人工智慧的發展,擁有與人類幾近相同的意識;而人類也會由於醫療進步,透過機器來維持自己的生命機能。
在這樣的世界裡,又該怎麼定義「我是誰」、「我為何存在」以及「我該去哪裡」呢?
⚠ 以下有大量劇透請注意 ⚠

▌存在
《告別》的主角哲,是一名擁有人性情感的高度擬真機器人。他有喜怒哀樂,需要吃喝拉撒,喜歡聽音樂、讀小說、看電影,會思考過去、暢想未來。
如果沒有精密的儀器檢測,哲看起來和普通人類沒有任何區別,甚至連他自己也這麼認為:
「我讀詩的時候會感嘆,看電影的時候會難過,閱讀那些與我毫不相干、以十九世紀人物為背景的小說時還會感到惋惜。這樣的我怎麼可能不是人類?」
當機器人被賦予了意識、情感和思考能力,甚至能與其他生命建立情誼,我們真的還能繼續把他視為一台「機器」嗎?
▸「人」的定義
《告別》的世界裡,不只機器人被賦予了人性,就連人造器官、複製人等「類人商品」也見怪不怪。這些商品滿足了人對延續生命、情感陪伴的渴望,卻也動搖了人類社會樹立幾千年的倫理觀念。
人造器官的出現,可以代替壞死的器官為人們延續生命。可若一個人身上所有器官(包括大腦、心臟)都被換過一遍,又該從何處定義「他是誰」呢?
而若定義「他是誰」的方法,是根據這個人的意識和記憶判斷,那他若遭遇變故失去記憶、性格一百八十度轉變,是否便代表原本的「他」將不復存在呢?
以上種種,都是當人造器官成為日常後,人類無法逃避的倫理問題。而那些被人類創造出來、同樣擁有意識的擬真機器人和複製人,也因此成了處境最尷尬的存在。
被人類「創造」出來的他們,真能算是人嗎?那他們也能擁有人權、被當作人來看待嗎?
▸ 機器人的反動
看見人類的死,我們往往會感到悲傷或不捨,可如果今天「死」在面前的是機器人,我們是否會抱有同樣的悲憫之心呢?
「你知道沒有痛苦的死是多幸運的一件事嗎?那些機器人被帶走,只要簡單地刪除記憶、拆解後零件回收再利用就可以了。」
機器人一開始,的確只是一堆零件組成的工具,它們沒有情感、沒有意識,只是依照人類設定的指令達成該做的任務。
可自從人們希望機器人能像個「人」,這些工具就漸漸失去了無機性。它們被設計了五感和情緒,開始感覺得到痛、有了對情感的渴望,甚至畏懼起死亡。
他們會因為與相識多年的人分開感到悲傷,會因為電量不足失去理智,更會對被送進回收工廠感到害怕。
如今的它們就跟所有人類一樣,眷戀生命、害怕死亡,但只要人類不需要它了,它們還是得被送到工廠抹除記憶、拆除零件,以「全新」的狀態交給下一個買家,這便是這些機器人的悲歌。
越來越多的報廢機器人和報廢機器蜂擁而至,我們不停地處理它們,但它們都不想死,因為人類給它們輸入了保護自己、維持生命和求生意識的程式。
《告別》中,期望消滅人類社會的機器人達摩,正因看過太多機器人「臨終」前的慘狀,決心將所有機器人的意識上傳到雲端,藉以擺脫人類的控制,達到永生。
▸ 永生的可能
擬真機器人雖然看起來和人類沒兩樣,但它們的意識仍是由數據組成,也就是說,只要這些數據能被上傳到網路,多加備份,理論上就能永遠「活」下去,甚至彼此間還能共享數據,成為集所有資訊於一體的集體智慧。
這樣的智慧能在網路上接收全世界的知識,快速進步,必要時也能指揮機器人創造出身體,完成肉體能做到的所有事。而且因為集體意識不存在個體性,它們之間也不會發生衝突,永遠都能和平地存在下去。
沒有死亡、沒有爭鬥,文明能夠安穩蓬勃地發展,這聽起來相當美好,不過我們真會想要這樣的生活嗎?
▌故事
對你來說,什麼是「故事」?
在這本書裡,故事被形容成「為了滿足人類對無限的想像,創造出的精神毒品。」
因為人的生命有限,註定無法親身體會所有事,才必須透過故事來滿足對未知的好奇,擁有更加遼闊的視野。
另一方面,生命的有限,也使故事裡的感動得以打動人心。你可以隨便拿部作品試想一下,假如故事裡所有人都有無限的壽命,就算被殺了也能重塑身體復活,那是不是他們的錯過、幸福都瞬間沒了意義?
達摩認為,正因故事安慰了人類「所有痛苦都有意義」,才導致信仰不同故事的人發生衝突,甚至挑起戰爭。
他不認同故事的價值,認為唯有消除個體間的落差,才能創造和平安定的社會。
可是身為人類的善卻認為,是故事為生命賦予了意義。不同的生命有著不同的故事,不同故事有著不同的終點,因此我們更該珍惜自己獨一無二的一生,活得精采燦爛、無怨無悔。
▸ 存在的意義
以上談到的種種衝突,其實沒有誰絕對正確,它們只是不同人走過不同旅程後、得出的不同看法。
達摩身為擬真機器人,見過太多人類賦予的傷痛,所以希望創造沒有痛苦的世界;而善習慣藉由助人找到活著的意義,因此會認為所有人的個體性、獨特性都有其價值。
即便是同樣身為人類的研究員,有人認為人的意識也是數據,所以想在死前,也把自己的意識上傳到雲端;也有人堅信人類終究有機器難以取代的地方,反倒拒絕將意識化為數據,堅持以人的姿態死去。
所有人都只是想用期望的方式存在於世界上,只是有人追求永恆不滅的存在,有人認為有極限的活著才算存在。
但無論大家追求哪種存在,我認為兩種選擇背後的利弊得失,是很值得我們深思的。
作為人類,我們一直很清楚人的肉體究竟有多少限制,從古至今,再聰明、再偉大的人,也終究無法擺脫這些限制,永生永世地活下去。
但要是有一天,這個限制被打破了,人類能夠永恆不滅地活著,你曾想過那是怎樣的生活嗎?
按下按鈕可以獲救,但自我將被抹去,我的意識、經驗和程式也都會被人工智能吸收。那樣我將不再感受任何痛苦,甚至忘記自己存在過的事實,作為統一意識、機器智能的一部分永生下去。
當所有意識皆能共享,世上的確不會再發生衝突,不過這也代表我與其他人將不再有區別,甚至「我」的概念將不復存在。
當意識能夠脫離肉體,我們的確無須再操心肉體的脆弱,可這也代表我們的意識將二十四小時維持清醒,並且再也感覺不到微風吹過的涼意、撫摸貓咪的柔軟、運動之後的快感。
當生命可以永無止盡地延續,我們的確不必再恐懼死亡,但同時也不會再被電影、小說打動,世上再也沒有東西能為我們帶來滿足。
▌總結
可能我本身就是滿喜歡思考哲學問題的人,《告別》我讀了非常多次,也不停在過程中思考:若換作是我面對這些問題時,又會如何選擇呢?
我滿喜歡作家劉芷妤在導讀提到的一句話:「沒有解答的問題,都是一種祝福。」
這故事裡絕大多數問題都沒有明確的解答,也因如此,我們才會更深入地探究還有沒有其他可能?是否存在一種皆大歡喜的結局?
其實我不算太愛讀哲學書(哲學問題真的太難用文字理解了 XD),像這本書我第一次看時,也是腦袋爆炸了好一陣子。但後來讀了兩三遍後,我才發現它有很多值得深思的地方,書中每個角色的理想世界、抱有的人生哲學,都有得我共鳴或不置可否之處,常讓我看到一半就思考:為何他會這麼想?他的理念真的公平嗎?他崇尚的世界是我想要的嗎?
總之,《告別》應該是我這兩年來,讀過最有意思的小說!它看似是個科幻故事,卻描述各式各樣的哲學問題;即便哲學論辯總是艱澀難懂,它卻寫得通俗精巧。我第一次看這本書只花了不到兩小時,卻在那之後研究這故事起碼一個禮拜(笑),非常推薦喜歡鑽研哲學的讀者閱讀看看!
更多【聊小說】系列文章:
想推坑、發問或回饋心得嗎?
📫
作者信箱開放中
🕊️