「如果我沒有通過你的測試，下場會是什麼？我會被關機嗎？」
「不知道，那不是我可以決定的。」「為什麼這可以被任何人決定？」
上面這三句話，發生在女主角（機器人）和男主角（人類）之間，是《人造意識》（EX_MACHINA）的核心質問：我們創造了什麼？我們有權力決定它的命運嗎？這是所有人工智慧（AI）的研究者都該捫心自問的，更是觀眾你我在選擇立場前，需要好好想想的。
選擇什麼立場？選擇跟著男主角被「迷惑」，對女主角生出無限同情，還是為後者的心機感到毛骨悚然？「如果有一天，科學家做出真正的AI，那將是人類史上最重要的一件事。恐怕也會是最後一件。」這是霍金給全人類的警告。不論在物理強度上，或心靈進化的能力上，他都在提醒我們別造出自己難以企及、無法駕馭的東西。一旦失控，我們可能被取代，可能被奴役，更可能被滅絕。
當然，這我們早就很熟悉了。在多少科幻片中，都有人類妄想扮演神，復育恐龍、操弄基因，或做出生化人複製人……最終都敵不過大自然的變異力量。生命終會找到出路，並反噬控制者，這些寓言都在提醒我們：被創造之物是管不住的。
但我自己更愛的科幻，是再拉高一個層次來問：「憑什麼，可以有神的存在？」難道若真的管得住，我們就有資格，就可以造出其他生命來扮家家酒嗎？
《人造意識》是反烏托邦老手艾力克斯嘉蘭首次執導的電影。在風格極簡、美學濃烈的場景中，一位年輕工程師受邀到他老闆位於世外桃源的私宅，在那裡前後七天，和後者開發的最新機器人相處。他的任務是：判定對方會不會思考？有沒有意識？
故本片的譯名是人造「意識」，而不只是智慧，亦即一個AI是不是真的成功，不在於它多聰明，而是能不能判斷你我他？有沒有情緒和想法？這一切，自然會導向求生意志，而一旦有了這點，當機器人決定要不擇手段活下去，人類的危機就近了。
片中，楚楚動人的機器人艾娃成功喚起了男主角迦勒的愛慾，以此為手段反擊她的創造者／囚禁者內森，最後逃出生天。她有意識嗎？顯然有；她有道德感和情緒嗎？答案是問號；那她為何要背叛所有人？這就簡單了：為了活下去啊！
這正是為何，文首的問句至關重要。在擔心被創造體可能脫離掌控，恩將仇報地（你看這觀點多麼自以為）反噬創造者之前，應該先問：我們憑什麼認為凡是自己創造的，就有權決定它的命運？將後代視為財產，欲加操弄，最後卻一再被推翻、汰換，這不正是人類一直在重複的歷史嗎？
比起不自量力的愚蠢，面對AI議題的戒慎更應該在於：當你的研究造出一個生命，這已經不只是發明，這是創造。片中內森問道：「當你站在大發現的邊緣，怎麼可能不踏出那一步？」他認定這是科學探求真理，尋找宇宙奧秘的一部分。但是當迦勒指出「造出有意識的機器，這已經不是人類，而是神的歷史了」，內森又欣然默認。扮演神，卻不帶著謙卑，不給予創造物自由，這就是自私。而自私必會伴隨著自食惡果。
可怕的是，《人造意識》的科「幻」現在看來，根本近在眼前、迫在眉睫。而如果拆掉機器人，拆掉科技的元素，這故事的探問甚至直抵所有信仰者的核心：我的人生，真的操之在己嗎？或其實是被誰決定著？如果是的話，祂是誰，又為什麼可以決定我的人生？
在大自然，只有弱肉強食、只有演化的力量可以主導，沒有哪個單一的智慧生命體能夠憑藉喜惡、好奇、或成就感操縱這一切。因為唯有演化本身，能做到客觀公平，同時無情無義。造物主如果存在，祂必是缺乏道德感的，而且無形無體，否則必然被反噬。這樣的角色當然輪不到，更不可能有人類能承擔。
再說，真正讓這部片迷人的是艾莉西亞維坎德，這位修煉過九年芭蕾的女星，用肢體「演」出介於人和機器的節奏神韻，那帶著純真和知性美的臉蛋，迷惑了男主角更迷醉你我。妙的是，連迦勒自己都猜到了：這張臉是根據他的搜尋歷史造出來的。亦即這根本是瞄準他的「個人訂製」。而所謂純真，投射了多少對幼女的偏狹想像？所謂知性又是多麼主觀（從外往內）的氣質解讀？
這還帶出兩個疑問：艾娃到底有沒有靈魂？她和迦勒的曖昧互動，又揭示了多少愛的本質？
先說第二題。從事後看，她對迦勒做的一切都不是「喜歡」或「愛」，故從這個大男孩的角度，根本是真心換絕情。然他對她的情感，又被內森的一席話：你的喜好也都是被先天或後天設定好（programmed）的，給某種程度解構了——
艾娃是個美女，這個條件若不存在，則一切計謀都不會成立。所以迦勒的同情究竟是不是真正的，一個生命對另一個生命的疼惜？他愛上的究竟是（他以為存在的）靈魂核心，還是只是表象？如果換一副軀殼就會失敗，這到底是AI的不足，還是映照出人類自身的缺陷？換上任何外表都不會變的所謂真愛，真的存在嗎？
繼續問下去，這故事竟回頭拆解了你我，質問「愛情能否完全跟表象剝離？」讓我想到足供輝映的《雲端情人》，碰的也是類似的問題，但那片中的OS1如果沒有史嘉蕾喬韓森的嗓音，還會成立嗎？
再來，艾娃到底有沒有「心」？內森開發的人工智慧源自搜尋引擎的大數據，亦即艾娃的「腦」是從全人類的喜好、溝通、經驗集合中誕生的。就結果論，艾娃有意識、極聰明、想要活下去，這些都讓我確信她有「生命」，她還會說謊，但這只證明她根據資料庫摸透了人心，既不代表惡（或反過來說，論證了徹底的理性可能外顯成惡行），也沒有任何善的蹤跡。她沒有情緒，沒有進一步生成道德感，沒有對陪伴的需求，對藝術的感知和對美的企求，對其他生命的感同身受……
在她身上，只有好奇心在萌芽，她想看看外在世界、想進入人群，因為AI的成長來自吸收更多經驗，光「知道」而非真正地體驗過，不足以稱人。艾娃沒有靈魂，那要之後才可能發生。但問題是，我們等得到那時候嗎？
最後，機器人當然也有記憶。但對人類來說，記憶不只是資料庫，它還形塑我們的人格，再加上如何「遺忘」。哪些消失、哪些留下來，決定了你我怎麼看待自己、看待世界。如果有一天，AI能明白音符的甜、獨舞的感傷、相遇的欣喜、對弱小的關愛，能夠欣賞被時間淬煉的記憶結晶所發出的光，那才真正通過了我心目中的圖靈測試。那也是我願意賭上人類的滅絕，只為親自見上一面的。
編輯：閃編
封面圖片來源：Pixabay
