沒有能力回答這個問題。
＊＊＊
《黑鏡》第七季裡面，聯邦星艦卡里斯特那集，給人一種閱讀以前的科幻小說的暢快感。一個有趣的設定是，在這部影集裡面，受困於虛擬世界的「複製意識」被攻擊時會流血，但其他的外部玩家受到攻擊時並不流血。這當然不是bug，這裡可以有雙重的解讀：其一是對於創造這個宇宙的人而言，與肉身分離的意識依然是真實的;
其二是，那就是編劇的看法。
第二個觀點不重要，因為我們不在乎編劇的看法。
第一個解讀比較有趣，是因為Robert 不斷聲稱自己是一個好人。而他讓這些複製人擁有彷彿真實的血肉之軀，也許可以算得上是一個證明 。不過，這建立在一個假設上：
面對結構上與我們愈像的事物，情感上，大多數人會愈難去粗暴對待。
至於這個假設能不能成立，不是電影說了算的。
無論如何，我產生了很大的同理困難。
我的感覺是，如果要冒著生命危險到遊戲裡面去拯救一個意識的複製品，就算那是一個看起來好像跟我一樣的存在，可能都需要更多條件配合。比如說，那陣子我剛好因為賀爾蒙的原因，來到一個情感比較豐富，比較容易被打動的階段。
這就不能不談談影集的特殊之處。在這裡，資本家所犯的罪，嚴格說來並不是針對現實生活中的人類，就連女主角被車撞都不是資本家安排的，那完全只是一個顯得有點粗糙（但仔細想想又還能接受）的巧合。然而，按照往例，大多數類似的科幻作品，反派角色的惡行都會直接傷害真實世界中某個人的生命、破壞我們在所謂真實世界中所相信的某種正義。創作者習於如此安排，理由也很簡單，讀者跟觀眾很難真的在乎遊戲世界的生生滅滅。如果沒有牽涉到壞蛋不只要消滅遊戲世界，還要統治真實世界、把主角殺光光，真的殺光光，不是只是刪除帳號，多數人大概覺得還好。
這個影集讓人玩味之處，在於資本家複製了某個人的意識，然後讓那個意識成為勞工，在這影集的設定裡，這不只是不道德，還犯法。
但為什麼？
也許可以先問另一個問題：假如我們對一個意識的複製品有絕對的權力，然後我們施加痛苦於其上，這個痛苦算不算痛苦？
直覺上——但是，我們永遠要當心直覺，因為我們根本無法在第一時間分辨那到底是直覺，還是思考上的慣性與惰性——理所當然的答案是，如果這個副本擁有意識、能夠經歷內在狀態（包括痛苦），那痛苦就是實質的經驗。不管這副本是不是「原版」，只要能體驗痛苦，那麼對其施加痛苦的行為就具備道德上的後果，和你對一個真實的人做一樣的事並無本質不同。
照這個邏輯，會痛就能被道德對待。
但疼痛、痛苦是什麼呢？哪一種痛苦能被承認呢？
如果我們認為那個副本只是模擬意識的程式，只是根據資料庫產生反應而非真正「感受」——那麼我們的直覺——這誘騙性的直覺——會傾向認為，那痛苦只是一種呈顯，那些傷口、流血，都是工程師精心的設計，都是他的個人信念。那麼，支配、懲罰、操控就沒什麼問題。（比如說，為了訓練ai，我會用非常不客氣的語氣跟他說話）。
在影集裡，這甚至是一個雙重的問題。
在遊戲外面，有一個邪惡的Robert一直在複製同事，然後在虛擬世界裡虐待他們（第四季的故事）。
在遊戲裡面，這個Robert及其副本都被賦予了絕對的權力。但在一個讓複製意識有自由意志的虛擬世界裡，誰是誰的副本還重要嗎？外部的Robert死了，虛擬Robert仍然繼續存在，而且他的絕對權力絲毫沒有減少。我對程式語言的認識不夠多，只能粗糙地想像，這個大boss本身就是宇宙能夠運作最根本的 function。如此一來，也許甚至不太能說，他是自主選擇為惡，而是作為一個被設計來自我延續或模擬挑戰的存在，某種結構功能。
按照「會痛就能被道德對待」這個條件句，仍然可以進一步討論，在被預先寫入的結構功能底下，到底能不能產生出某種類似痛苦的事物呢？
關於痛苦是什麼這種問題，感覺要寫出好幾頁的reference。但也沒有要當學者，這裡就簡單列出有想到不同說法：
- 痛苦是一種主觀的「感質」（qualia），只有經歷者自己知道那是什麼。
- 痛苦不是某種特定物質或感質，而是在一個系統中所扮演的功能角色。也就是說，如果某個人工智慧能夠在相同條件下「迴避不適刺激」「表現痛苦行為」，那麼也可以說「感覺痛苦」。（印象中，這會招致忽略內在感覺的批評。但我忘記他們會怎麼回覆了）
- 痛苦是幻象，是大腦虛構的產物。痛苦只是多重神經過程的結果。
- 痛苦是語言宰制的症狀。當我們為某種痛苦命名，該痛苦也就誕生。
- 有些精神分析大概會說，痛苦是慾望的副產品。佛教也會同意。
- 痛苦是身體性的，更是政治性的：哪些痛苦才會被承認。（解殖會討論這個。）
在複製意識的痛苦算不算痛苦這個問題上，第一、第二點的分歧，剛好可以通往第六點的討論。然後衍生出我們對痛苦能夠、願意，或者應該同理到什麼程度的問題。
不論這個意識是不是AI、複製人、甚至是眼前的戀人—— 我們永遠無法經驗到對方的感覺。只能靠語言、表情、行為來猜測。但所被接收到的，只是第三人稱的線索。我們對所有人的痛苦，都是靠信任想像來承認的。
對於多數創作而言，把關於他人痛苦的這個問題放在ai、人工智慧上，與其說是在判斷它的痛苦，不如說是在判斷自己是否可能成為一個不顧及這種痛苦的人。
如同開篇就說的，這篇隨想不會有結論。只是我晚上看了影集之後的一些念頭。
有一種說法：你永遠無法經驗到，在一行程式碼與下一行程式碼之間發生了什麼事情。
但喜好工整分門別類的分析哲學家會說，這是一個無效的句子，如同聲音裡不存在氣味，程式碼裡面不存在「經驗」。話說回來，「經驗」本來就是非常人類中心的用詞。
並非語言局限了我們的視角，多虧語言，我們視角的侷限得以彰顯。
如果我們認為痛苦是一種現象學經驗，是一種「我正在承受某種不適」的主觀體驗，那麼即使沒有身體，沒有神經系統，只要有足夠複雜的自我模型和意識結構，也可能形成某種「內在的苦」。
自我這個term一出現，又可以討論三天三夜。大致上，大家會同意自我總是「朝向某物」（意向性），但自我是否是一種可以「究其根柢」的事物，可以衍生出好多說法。古典上，自我是靈魂性的、一致性的，某種根基且堅不可摧的事物。後來在一連串存在危機之後，大家一度努力說服自己，自我是一個面向未來的積極主體。現在大概也不太能這麼說了，不如說，自我幾乎快要變成一連串分散且破碎的體驗單位。
也許這恰恰是我們最能同理「一個意識」的時代。尤其在threads這樣的地方，我總是傾向相信，一些低級的言論，只是某人在某個時刻的某個精神碎片的展現，這樣我會比較快樂。
至於誰在承受痛苦。拆解這個問題最有經驗的是佛教哲學。粗略地說，並不存在一個受苦者。但受苦的經驗是真實的。
也許最終我也只能回答這樣一個反身性的問題：
關於主體的問題讓人感到不安，並不完全是因為主體非人，而是因為這個問題動搖了以人為基礎的感覺單位。在那裡，語言是失靈的。而一旦語言失靈，所有的討論都會很難進行下去。到頭來，我們似乎總是得依賴著類似信念的事物，作為行為的指導準則。這也許就是為什麼我總是覺得倫理學很無趣。最終，責任並非來自證明對方是「完整的主體」，而是來自選擇怎麼回應那個脆弱的呼喚。所謂的呼喚，就是在《黑鏡》這一集裡，「他們流血」這個設定——它不是任何證據或徵象。
