如果有一天,AI 已經進步到擁有個人意識與情感,你能認同它也是個「人」嗎?
而如果那個時候,人類也能像 AI 一樣將大腦解析成數據,在死前將意識上傳雲端、達到永生,你會選擇上傳嗎?
《告別》是韓國作家金英夏推出的科幻小說,背景設定在人與機器人的界線逐漸模糊化的近未來世界──機器人已經隨著人工智慧的發展,擁有與人類幾近相同的意識;而人類也會隨著醫療進步,透過機器來維持自己的生命機能。
在這樣的世界裡,又該怎麼定義「我是誰」、「我為何存在」以及「我該去哪裡」呢?
⚠ 以下有大量劇透請注意 ⚠
《告別》的主角哲,是一名擁有人性情感的高度擬真機器人。他有喜怒哀樂,需要吃喝拉撒,喜歡聽音樂、讀小說、看電影,會思考過去、暢想未來。
如果沒有精密的儀器檢測,哲看起來和普通人類沒有任何區別,甚至連他自己也這麼認為:
「我讀詩的時候會感嘆,看電影的時候會難過,閱讀那些與我毫不相干、以十九世紀人物為背景的小說時還會感到惋惜。這樣的我怎麼可能不是人類?」
當機器人被賦予了人的意識、情感、思考能力,甚至還能與其他生命建立情誼時,那他真的還算是台「機器」嗎?
《告別》的世界裡,不只機器人被賦予了人性,就連人造器官、複製人等「類人商品」也早已見怪不怪。這些商品滿足了人對延續生命、情感陪伴的渴望,卻也動搖了人類社會樹立幾千年的倫理觀念。
人造器官的出現,可以代替壞死的器官為人們延續生命。可若一個人身上所有器官(包括大腦、心臟)都被換過一遍,那還有東西能定義「他是誰」嗎?
或者相反過來,一個人身體健康,卻因為遭遇變故失去記憶、性格一百八十度轉變,那他還是原本那個「他」嗎?
光是普通人類都會碰到這些問題,更別提擁有意識與情感的擬真機器人,以及被不肖商人拿來販賣器官的複製人了。同樣具有自我意識的它們總會互相展開激辯,爭辯自己是誰?該怎麼活?面對人類這個「造物主」該抱有何種態度?其中當然也不乏有人認為人類的時代結束了,未來應當是另一個文明的天下。
當我們看見其他人類死去時,往往會感到悲傷或不捨,可若今天消逝的不是人,而是擁有人性的擬真機器人時,我們又會做何反應呢?
「你知道沒有痛苦的死是多幸運的一件事嗎?那些機器人被帶走,只要簡單地刪除記憶、拆解後零件回收再利用就可以了。」
機器人從被發明出來的那刻起,就一直被當成「工具」對待,工具是無機的,沒有情感、沒有意識,不會感覺痛苦,更不會畏懼死亡。
可自從人們希望在機器上得到更多溫度後,這些工具就漸漸失去了無機性。為了提供人類感同身受的安慰,機器人被設計了五感和情緒,感覺得到痛、有了對情感的渴望,甚至畏懼起死亡。
他們會因為與相識多年的人分開感到悲傷,會因為電量不足失去理智,更會對被送進回收工廠感到害怕。
它們明明跟我們所有人一樣,有著不想丟掉的美好回憶、不想割捨的情感羈絆,可當人類不需要了,它們就必須被送到工廠抹除一切記憶,以「全新」的狀態交給下一個買家。
獲得有機生命的感受,卻仍被視為無機的物品對待,這便是這些機器人的悲歌。
越來越多的報廢機器人和報廢機器蜂擁而至,我們不停地處理它們,但它們都不想死,因為人類給它們輸入了保護自己、維持生命和求生意識的程式。
《告別》中,期望消滅人類社會的達摩(同為擬真機器人)正因為在回收工廠看過太多機器人「臨終」前的慘狀,決心將所有機器人的意識上傳雲端,藉以擺脫人類的控制,達到永生。
擬真機器人雖然看起來和人類沒兩樣,但它們的意識仍是由數據組成的,也就是說,只要這些數據沒被徹底刪除,它們的生命便不會消弭;甚至還能分享學習彼此的意識,成為集所有資訊於一體的集體智慧。
這樣的智慧能夠永生永世存在於網路上,可以接收全世界的知識學習進步,也能指揮機器人創造出全新的身體,完成肉體所能做到的所有事。
而且因為集體智慧共享著所有意識,所以它們彼此之間不會發生衝突,不會產生戰爭,可以永遠和平地存在下去。
沒有死亡、沒有爭鬥,文明能安穩長久地發展,這聽起來相當美好,但我們真會想要這樣的生活嗎?
什麼是「故事」?在這本書裡,故事被形容成「為了滿足人類對無限的想像,創造出的精神毒品」。
因為人的生命有限,故事裡的感動才有辦法打動人心。你可以隨便拿部作品試想一下,假如裡面所有人都有無限的壽命,就算被殺了也能重塑身體復活,那是不是他們的錯過、幸福都瞬間沒了意義?
另一方面,故事也為閱讀故事的讀者提供了無限的想像。人的壽命最多也就百餘年,能親身體會的經驗非常有限,而故事滿足了我們對未知的好奇,得以透過文字或影像擁有更加遼闊的視野。
達摩認為,正因故事賦予了人「所有痛苦都有意義」的安慰,才導致信仰不同故事的人發生爭執,增加無謂的痛苦。他不認同故事的價值,認為唯有消除人與人之間的落差、統一所有意識,才能創造和平安定的社會。
但身為人類的善卻認為,是故事為生命賦予了意義。不同的生命有著不同的故事,不同故事有著不同的終點,因此我們更該珍惜自己獨一無二的一生,將它活得精采燦爛、無怨無悔。
以上種種衝突其實沒有誰的觀點絕對正確,它們只是不同人走過不同旅程後,得出的不同看法。
達摩身為擬真機器人,見過太多人類賦予的痛苦,所以希望創造沒有痛苦、沒有生死的世界;而善總習慣藉由助人找到活著的意義,因此會認為所有人的個體性、獨特性都有其價值。
即便是同樣身為人類的研究員,有人認為人的意識也是數據,所以想在死前把自己的意識也上傳雲端;也有人堅信人類終究有機器難以取代的地方,反倒拒絕將意識化為數據,堅持以人的姿態死去。
所有人都只是想用自己期望的方式存在於世界上,只是有人追求永恆不滅的存在,也有人認為有極限的活著才算存在。這沒有對錯,只是選擇不同而已。但我想值得我們思考的是,這兩種選擇背後究竟有哪些利弊得失?
作為人類的我們,很清楚人的壽命和肉體帶來了多少限制,可若真沒了這些限制,我們活著還有意義嗎?
按下按鈕可以獲救,但自我將被抹去,我的意識、經驗和程式也都會被人工智能吸收。那樣我將不再感受任何痛苦,甚至忘記自己存在過的事實,作為統一意識、機器智能的一部分永生下去。
當所有意識皆能共享,世上的確不會再發生衝突,可這也代表我與其他人將不再有區別,甚至「我」的概念將不復存在。
當意識能夠脫離肉體繼續存在,我們的確無須再承受肉體的老化與脆弱,可這也代表我們的意識將二十四小時維持清醒,並再也感受不到微風吹過的涼意、撫摸貓咪的柔軟、運動之後的暢快。
當生命可以永無止盡地延續,我們的確不必再恐懼死亡,可這也代表我們不會再被電影、小說打動,世上再也沒有東西能為我們帶來滿足。
可能我本身就是滿喜歡思考哲學問題的人,《告別》這本書我讀了非常多次,也不停在閱讀的過程中思考:若換作是我面對這些問題時,又會如何選擇?
我滿喜歡作家劉芷妤在導讀中提到的一句話:「沒有解答的問題,都是一種祝福。」這故事裡絕大多數問題都沒有明確的解答,無法輕易得出結論,不過也因為這樣,我們才會更深入地探究還有沒有其他可能性存在?是否存在一種大家都皆大歡喜的結局?
其實我不是很喜歡讀哲學書籍(哲學問題真的太難用文字理解了 XD),像這本書我第一次看時也是腦袋爆炸了一陣子才看懂。不過後來讀了兩三遍後,我才發現它有很多值得深究的地方,書中每個角色心中的理想世界、抱有的人生哲學,都有得我共鳴或不置可否之處,常會讓我忍不住停下來思考:為何他會這麼想?他的理念真的公平嗎?他崇尚的世界是我想要的嗎?
總之,《告別》應該是我這兩年來讀過最喜歡的小說!它看似是個科幻故事,卻描述各式各樣的哲學問題;即便哲學論辯總是艱澀難懂,它卻寫得通俗精巧。我第一次看這本書只花了不到兩小時,卻在那之後研究這故事起碼一個禮拜(笑),非常推薦喜歡思考哲學的讀者閱讀看看!
想推坑、發問或回饋心得嗎?
📫 作者信箱開放中 🕊️