如果有一天,AI 已經進步到擁有個人意識與情感,你能認同它也是個「人」嗎?而如果那個時候,人類也能像 AI 一樣將大腦解析成數據,在死前將意識上傳雲端、實現永生,你會選擇上傳嗎?
《告別》是韓國作家金英夏推出的科幻小說,背景設定在人與機器人的界線逐漸模糊的近未來世界──機器人已經隨著人工智慧的發展,擁有與人類幾近相同的意識;而人類也會由於醫療進步,透過機器來維持自己的生命機能。
在這樣的世界裡,又該怎麼定義「我是誰」和「我為何存在」呢?
⚠ 以下有大量劇透請注意 ⚠

▌存在
《告別》的主角哲,是一名擁有人性情感的高度擬真機器人,他有喜怒哀樂,需要吃喝拉撒,喜歡聽音樂、讀小說、看電影,會思考過去、想像未來。如果沒有精密的儀器檢測,哲看起來和普通人類沒有任何區別,甚至連他自己也這麼認為:
「我讀詩的時候會感嘆,看電影的時候會難過,閱讀那些與我毫不相干、以十九世紀人物為背景的小說時還會感到惋惜。這樣的我怎麼可能不是人類?」
當機器人被賦予了意識、情感和思考能力,甚至能與其他生命建立情誼,我們真的還能繼續把他視為一台「機器」嗎?
▸「人」的定義
《告別》的世界裡,不只機器人被賦予了人性,連人造器官、複製人等「類人商品」也見怪不怪。這些商品滿足了人們對延續生命與情感陪伴的渴望,卻也動搖了人類社會樹立千年的倫理觀念。
人造器官的出現,可以代替壞死的器官為人們延續生命,可若一個人身上所有器官(包括大腦、心臟)都被換過一遍,又該怎麼辨認「他是誰」呢?
而若定義「他是誰」的方法,是根據個人意識判斷,那他若遭遇變故失去記憶、性格一百八十度轉變後,是否便代表原本的「他」將不復存在呢?
以上種種,都是當人造器官成為日常後,人類無法逃避的倫理問題,而那些被人類創造出來、同樣擁有意識的擬真機器人和複製人,也成了處境最尷尬的存在。被人類「創造」出來的他們,即便也擁有自己的意識和感情,卻始終只被當成物品對待,需要的時候,就花錢買來放在家裡;不需要了,就連絡回收廠把他們收走,報廢處理掉。
「你知道沒有痛苦的死是多幸運的一件事嗎?那些機器人被帶走,只要簡單地刪除記憶、拆解後零件回收再利用就可以了。」
▸ 機器人的反動
雖然機器人一開始只是由零件組成的工具,沒有情感和自我,只是依照指令達成任務;可自從人們希望機器人能像個「人」、給予人類同理和陪伴後,這些工具就漸漸失去了無機性,他們被設計了五感和情緒,感覺到疼痛、有了對情感的渴望,甚至畏懼起死亡。
他們會因為與相識多年的人分開感到悲傷,會因為電量不足失去理智,更會對被送進回收工廠感到害怕。如今的他們就跟所有人類一樣,會笑、會哭、會害怕,但只要人類不需要了,他們還是得被送到工廠抹除記憶、拆除零件,以「全新」的狀態交給下一個買家,繼續迎接生離死別,這便是這些機器人的悲歌。
越來越多的報廢機器人和報廢機器蜂擁而至,我們不停地處理它們,但它們都不想死,因為人類給它們輸入了保護自己、維持生命和求生意識的程式。
▸ 永生的可能
《告別》中,期望消滅人類社會的機器人達摩,正因看過太多機器人「臨終」前的慘狀,決心將所有機器人的意識上傳到雲端,藉以擺脫人類的控制。由於這些機器人的意識仍是由數據組成,理論上,只要數據能被上傳到網路並多加備份,他們就能永遠「活」下去,甚至意識與意識之間還能共享數據,成為集所有資訊於一體的集體智慧。
集體智慧能在網路上接收全世界的知識,快速進步,必要時也能指揮機器人創造出身體,完成肉體能做到的所有事,而且因為集體意識不存在個體性,它們之間也不會發生衝突,能夠和平地存在下去。
沒有死亡、沒有爭鬥,文明能夠安穩蓬勃地發展,這聽起來相當美好,不過我們真會想要這樣的生活嗎?
▌故事
對你來說,「故事」是什麼?在這本書裡,故事被形容成「為了滿足人類對無限的想像,創造出的精神毒品」。
達摩認為,因為人類的生命有限,才需要透過故事,滿足對未知事物的好奇;也因為故事告訴了人類「所有的痛苦都有意義」,才導致許多信仰不同故事的人發生衝突,甚至挑起戰爭。他不認同故事的價值,認為唯有消除個體之間的落差,將意識統一,才能創造出和平安定的社會。
然而,身為人類的善卻認為,是故事為生命賦予了意義。不同的生命有著不同的故事,不同故事有著不同的終點,因此我們更該珍惜自己獨一無二的一生,活得精采燦爛、無怨無悔。
▸ 活著的意義
這些人生觀點,其實沒有誰絕對正確,它們只是不同人走過不同旅程後、得出的不同看法。達摩身為擬真機器人,見過太多人類賦予的傷痛,所以希望創造沒有痛苦的世界;而善習慣藉由助人,找到活著的意義,因此會認為人的個體性都有其價值。
即便是同為人類的研究員,有人認為人的意識也是數據,想把意識也上傳到雲端;有人堅信人類終究有機器難以取代的地方,反倒拒絕將意識化為數據,堅持以人的姿態死去。
大家對「活著」的看法都不同,有人追求靈魂的永恆不滅,也有人認為壽而有終才是人類的歸處。不過無論大家的想法為何,我認為這兩種選擇背後的利弊得失,是很值得我們深思的。
作為人類,我們一直很清楚人的肉體有多少限制,畢竟從古到今,再偉大的人也難逃一死,可若未來有一日,這個限制被打破了,人類有機會在網路世界裡永生永世地活著,你想過那是什麼樣的生活嗎?
按下按鈕可以獲救,但自我將被抹去,我的意識、經驗和程式也都會被人工智能吸收。那樣我將不再感受任何痛苦,甚至忘記自己存在過的事實,作為統一意識、機器智能的一部分永生下去。
當所有意識皆能共享,世上的確不會再發生衝突,不過這也代表我與其他人將不再有區別,甚至「我」的概念將不復存在。
當意識能夠脫離肉體,我們的確無須再操心肉體的脆弱,可這也代表我們的意識將二十四小時維持清醒,並再也感覺不到微風吹拂的涼意、撫摸貓咪的柔軟、運動過後的快感。
當生命可以永無止盡地延續,我們的確不必再恐懼死亡,但同時也不會再被電影、小說打動,世上再也沒有東西能為我們帶來滿足。
▌總結
可能我本身就是喜歡思考哲學問題的人,《告別》我讀了非常多次,也不停在過程中思考:若換作是我面對這些問題時,又會如何選擇呢?
我滿喜歡作家劉芷妤在導讀提到的一句話:「沒有解答的問題,都是一種祝福。」
這故事裡絕大多數問題都沒有明確的解答,所以我們才會深入探究還有沒有其他可能性?是否存在一種皆大歡喜的結局?
其實我第一次看這本書的時候,腦袋也是爆炸了一陣子才看懂(哲學問題真的太難用文字理解了 XD),但後來讀了兩三遍,我才發現其中有很多值得深思的地方。書中每個角色的理想世界、抱有的人生哲學,都有得我共鳴或不置可否之處,常讓我忍不住思考:為何他會這麼想?他的理念真的公平嗎?他崇尚的世界是我想要的嗎?
總之,《告別》應該是我這兩年來,讀過最有意思的小說!它看似是個科幻故事,卻描述各式各樣的哲學問題;即便哲學論辯總是艱澀難懂,它卻寫得通俗精巧。我第一次看這本書只花了不到兩小時,卻在那之後研究這故事起碼一個禮拜(笑),非常推薦喜歡鑽研哲學的讀者閱讀看看!
更多【聊小說】系列文章:
想推坑、發問或回饋心得嗎?📫作者信箱開放中🕊️


















