釀專題｜《人造意識》：一個關於人類野心與私慾的鬼故事

《28 天毀滅倒數》編劇亞力克斯・嘉蘭第一部執導的電影《人造意識》（Ex_Machina），表面上在講人工智慧，但它真正談的是人，關於人的本性會如何影響未來，野心與私慾會把我們帶到什麼地方去，而這結果看起來不太好。

一家類似 Google 與臉書合體的大型科技公司「Bluebook」裡，年輕工程師加勒（多姆納爾・格里森飾演）獲得難得機會，得以搭直升機參觀公司創辦人納森（奧斯卡・伊薩克飾演）的豪華大宅兼實驗室。該處人跡罕至，納森在此秘密製造出新型人工智慧艾娃（艾莉西亞・薇坎德飾演），想讓加勒做圖靈測試（Turing Test），判斷艾娃是否已有與人類相仿的心智。

在《人造意識》描繪的世界中，「人工智慧」的發展，是個無法逃避的完美危機，彷彿明明望著冰山就在前方，船卻停不下來，方向盤也壞了無法轉彎。而在密閉空間裡的三位主角，誰才是實驗室裡的老鼠呢？

室外鬱鬱蔥蔥的自然景觀，包圍著深隱其中的高科技冰冷風格實驗室，彷彿預示人造與自然的大戰。納森在他的實驗室裡扮上帝，從他做出的擁有女性外貌的機器人、到找來的員工加勒，都是他的玩具。

納森的可怕，不在於他打造出可能傷害人類的人工智慧，而是在他的掌控慾沒有界線。他操弄員工，還要操弄他創造出的人工智慧，並且剝削它們。加勒在納森的衣櫃裡翻到好多報廢的機器人殘骸，頭啊身體的部位就那樣掛著，全都有漂亮的女性外型，好像在成就一個最終極的、將女性這個性別徹底物化的夢想，與食人魔、殺人魔的思維邏輯已經不遠。納森主導的故事，是強欺弱的故事，直到艾娃出現，才改變了優劣勢。

看似內向善良的加勒，遇上精通人性的艾娃，忍不住迷上這位表面上楚楚可憐又美艷動人的人工智慧，救世主情結在內心噴發。又因納森似乎不太看重加勒，屢屢將他的理性分析轉往其他話題，使得急於表現的加勒備感挫折，受傷的自尊令他憤慨，也更易掉入艾娃的陷阱裡。

但他是否真的「好」得那麼純良，倒也難說。他完全低估艾娃，並幻想著救艾娃出去可以獲得某種接近她／它的權力，若艾娃真與加勒逃出，他內心的「英雄救美」敘事，或許會令他認定艾娃該有所回報吧？

《人造意識》裡的圖靈測試，是改造過的版本。原本的圖靈測試中，人類提問者並不知道對方是機器還是人，要純粹靠著對方的文字回應來判斷。若電腦能唬過提問者，表示這電腦在人類設計的模仿遊戲獲勝。但《人造意識》的加勒隔著玻璃跟艾娃對話，已先知道艾娃是機器不是人，然而做完對話測試後，加勒發現艾娃對人性頗為了解，知道欺騙、知道秘密、知道人的掩飾與偽裝背後的真正意圖與理由，甚至有「主動想做的事」。因此加勒幾乎完全相信艾娃有「意識」，屬於人／人工智慧，不是純粹模仿、或像會下棋的電腦那樣純然只是被設定而已。

但艾娃的「意識」，可能與人類設想的情境完全不同。艾娃看待事情、分析萬物的方式，還有所謂的知覺，人類恐怕完全無法想像與理解。而艾娃為何想逃出去？是因為不想被當奴隸？或求生本能使然？還是因為跟人類一樣有其他野心？艾娃的最終目標是什麼？艾娃在意人嗎？可能都超出人類能回答的範圍。

在人工智慧、納森與加勒的三方競合與角力之中，清楚展現了人類劣根性最常導致的問題。例如，即使替人工智慧加上「性別」的意義不大，但納森一路以來設計的機器人，都有曲線玲瓏的女性外型，或是在陰道位置設計一個「洞」，甚至加裝感應器來體驗「歡愉」。一款較為舊型的機器人京子，幾乎等於納森的玩物，存在目的只是要滿足他的慾望。即使是最「進化」，最可能真有自我意識的艾娃，仍被納森設計得像個有點缺乏安全感的、身材完美的小女孩，挑選衣服時還會挑高跟鞋穿，而不是被設計成更強壯好用的樣子。

我不認為這是男性導演帶來的「男性凝視」問題，而是在科學家的世界裡面，原本就以男性居多，世上大部分的普通機器人，如果有近似人類的形象，都是以男性或小孩形象與體態為主，唯有性愛機器人會特別以女性形象為主。若真實世界裡面出現納森這樣的男科學家，以龐大的權力與資源做靠山，專門設計出有意識的「女性」機器人，來打掃、做家務、陪伴、提供性服務等等，我也不會意外。

我們人類歷史上，常常出現各式階級問題與奴隸制度，甚至在名義上沒有奴隸的環境，依舊有許多實質上的奴隸，例如台灣的移工（有些護照被沒收、被要求不能放假、不准用手機等等，甚至時有遭雇主家中成員性侵的事件）。依照人類的本性，當能設計出高階人工智慧的時候，是會設計出一堆幫手，還是會設計出一堆奴隸？

如果是純粹被設計來幫忙的機器，不會有這種階級問題。但若設計為人的樣貌，寫入類似人性的程式，甚至發展出意識與想法，卻讓它做牛做馬、毫無節制地剝削，是否越過了某條界線？像片中的納森，享受京子的陪伴與服務時，似乎洋洋得意，更加深類似「豢養奴隸」的階級優越感，人性的醜陋已經達到令人難受的地步。

艾娃面對的人／男人有兩個，分別是粗魯沒品的納森，與溫柔體貼的加勒，但最妙的是，這兩人最終不會有太大差異，前者把他製造的人工智慧當玩物，無情地利用與掌控，後者則讓戀愛的感覺與英雄救美的想像馳騁，將人工智慧當成等待被拯救的弱者，滿足自尊心。等於是說，這兩個男人看似一善一惡，但他們眼中的、帶著女性性徵的人工智慧艾娃，都仍是他們心中夢想女孩的具象化罷了。某些程度上，他倆都物化了艾娃，而非以人的角度來觀察理解它。

透過納森的設計，艾娃收集所有人的數位資料，足以對人的性格與本質做出非常精準的分析，並可從人的表情判別對方的情緒、以及是否說謊。在艾娃的觀察過程中，尤其是與納森這樣的人的長時間相處中，艾娃對人的預期應該是很低的。

所以片尾艾娃對加勒的無情處置，很可能是根據人類行為紀錄、分析過機率與利弊的結果。與加勒一起逃出的話，很可能他也會認為自己有權控制艾娃，尤其若加勒發現艾娃沒有所謂的「愛」的感受，先前表現出的柔弱與依賴都只是為了逃出去，或許加勒也會一改友善態度，甚至變成另一個納森。對艾娃而言，沒有必要賭，不需讓加勒有機會成為另一個掌控艾娃命運的人。

最終，我們造出的人工智慧會如何對待我們，竟成了人類行為與本質的投影與報應。

人類的野心裡面寫著自毀密碼。「原子彈之父」歐本海默曾感嘆道：「現在我成了死神，世界的毀滅者。」他本人內心是否曾有掙扎，無人能知悉，但以人類目前發展的武器來看，恐怕也不差他一位，就算他不做，其他人大概也會做出來；就算不太一樣，但終究會是大規模毀滅性武器。

對於人工智慧的發展，納森也抱持一樣的想法，即使他也認為有意識的艾娃會淘汰掉人類，但他認為艾娃的出現不是一個「決定」，而是「進化」下的不得不然。納森不做，其他人也會做。這點我相信他。就算全世界大多數人都是門外漢，但只需要有一小群人做得到、願意做，大抵就無法避免發展趨勢。

以古鑑今，可以確定的是，人類野心永遠不會停止膨脹，它會越來越龐大，越來越瘋狂，即使可能會回頭傷害到自己，亦無可避免。就算人工智慧不是人類的終結者，我們也可能搞出其他超出掌控的危機。

納森曾用傑克森波拉克的畫作，向加勒解釋艾娃的誕生。波拉克的作畫過程並非深思熟慮過、但也不是隨機亂點，而是介於中間。有時僅需人類的一點點刻意加上一點本能，就能組合出主導未來走向的大事，這樣的過程並非人類真能掌握或控制的，它的結果也常常不如我們所想，甚至可能頗具毀滅性。這是沒有神的機器，它在運作過程中就自行產出了那樣的玩意，不是誰的意願可以左右的。

《人造意識》英文片名「Ex Machina」，源頭來自希臘語的拉丁片語「deus ex machina」，翻成英文是「God from the machine」，一個天外救星，是在古希臘劇場上由機器載來的神，用強大神力將膠著劇情一筆解決。但《人造意識》片名拿掉了 deus，也就是拿掉了神，暗示世界的新力量，從毫無計畫的混亂中自行生成。而納森提到「奇點」（Singularity）時，也解釋道這些「機器」會有一天，突然得知如何爆炸性地進化，那會是人類無法想像與掌握的。走到那一步，可不會有哪個天外救星跳出來，幫我們解決所有問題。

野心點起了火苗，造出帶有自我意識的機器，帶著人類走向不可避免的未來。又因為人類行為的醜惡與不可信任，將來這些已經有自我意識、想當自己主人的「艾娃」們，大概不會對人類太仁慈。

或許人類的結局不是滅絕，而是過時，人工智慧就是我們的進化，就像過去智人淘汰其他人種那樣，是個難以避免的進程。或許我們該接受，末日與創造常常是並存的，有毀壞才有新生。

但是，如果艾娃這樣的人工智慧，取代原本的人類，會怎麼樣呢？這個「人類社會」會變好還是變壞？起初我覺得，由冷冰冰的艾娃們組成的世界，似乎很令人沮喪，但轉頭想想納森、加勒、與所謂充滿熱情與衝勁的舊人類世界裡，有多少黑暗與殘酷，在人類的野心與私慾下不斷被無視與原諒，性別與階級的歧視與剝削不斷重演⋯⋯我不禁害怕起來：難道無情理性的艾娃的世界，還真會是一種進步？艾娃們竟然解決了我們人類再文明、再熱血、再啟蒙都無法解決的問題？

這真是最恐怖的鬼故事了。