【影評】《機械公敵》機器人自我意識的起源

人工智慧(附註1)一直都是科幻題材界的熱門話題，這類型的電影一般來說大致會有三種基本面向的呈現：探討機器與人性之間的關聯；探討機器自我學習發展的過程；探討機器作為生命延續上的意義或目的。大多數的電影會集中在第一種，因為這部分在機器與人性中的掙扎是最有戲劇性的部分，像是《AI人工智慧》、《變人》等等，討論機器是否能更像人、更有人性、甚至擁有跟人類一樣的感情，是一個智慧生命等等。

而第二種在說明機器學習過程時，會比較多放在「機器邏輯」的概念上，像是《雲端情人》機器中對於「愛」的理解，對於「生命層次」延伸等概念，逐漸會發現這些「機器」的思考是完完全全不同於「人」的理解。就好比螞蟻的世界無法理解人的世界，而人也無法理解機器的世界(附註2)。

第三種就不是在人工智能是否能像人一樣思考，抑或是機器是否為超越人類思考理解的另一種生命的探討，而是「機器」作為一個族群存在，其種族在生命延續上意義與目的為何。像是《奧圖瑪塔》有些許觸碰到這類議題，而《大都會》、《駭客任務(動畫版)》都有描述機器人族群的生存方式與處境。

當然不論那一種的類型的討論，基本上很多電影都是三種皆有提到，只是偏重的程度不一樣，而《機械公敵》就很適合做為討論關於人工智慧關於自我意識覺醒上的入門，因為它不僅三個面向都有涉及，而且涉及的部分也並非淺淺帶過，而是在作為商業娛樂大片的同時，盡可能的深入其中，讓觀影者在無需有太多複雜的背景知識下，能得到對這類議題的反思。

這裡如同《奧圖瑪塔》的世界一樣，機器人有其基本的限制，但不同的是，「機器人三大定律」是由人類作為發明者，而非機器本身。而這三條定律基本上是所有機器人的核心概念，即使是博士特意製作出來的「索尼」，其核心內在也刻上這三大定律，只是可以「選擇」違反這個定律罷了，這配合上「薇琪」再重新理解「機器人三大定律」主軸下，我們似乎會發現一點特別的地方。那就是不論是「薇琪」還是「索尼」，基本上都告訴我們機器人邏輯在理解三大定律上，都可以做出不一樣的解釋，以便於「違反人類」所理解的三大定律。那再深入解釋這部分前，先讓我們看看《機械公敵》裡所提到的機器人不可違反的三大定律為何：

1. 機器人不得傷害人類，或袖手旁觀坐視使人類受到傷害。(A robot may not injure a human being or, through ination, allow a human being to come to harm.)

2. 在不違背第一定律，機器人必須服從人類的命令。(A robot must obey orders given it by human beings except where such orders would conflict with the first law.)

3. 在不違背第一及第二定律的情況下，機器人必須保護自己。(A robot must protect its own existence as long as such protection does not conflict with the firest or second law.)

在這三定律保護下的人類世界，基本上都相信所有的機器人皆不會有任何犯罪的行為，且人類在機器的保護下是無比安全的狀態。但在電影中卻告訴我們一件事，如果人工智慧對於三定律的理解與人類思考的理解不同的話，會發生甚麼事情呢？接下來的討論會稍嫌複雜一點，我會盡可能將這部分說明的更加清楚一點，如果有文字未能詳盡之處，歡迎留言討論。

《機械公敵》所描述的未來世界，是一個高度使用人工智慧的機器人世界，這裡面所有的機器人基本上都可以做到完全理解人類的指令並與其交談(附註3)。但如果要說到這些機器人是否擁有「自我意識」，這部份則有待商榷。單就機器人是否能夠分別自我與他人的不同、了解到自己的行為模式、擁有記憶的連續性等等關於基本意識的判斷來說，這些機器人都有。但是這些機器人所判斷思考的標準是否只是因為其龐大的資料庫，針對人類行為模式的研究反饋，使得它們所表現的行為「能」符合人類所期待的標準，但實際上卻缺乏想像力、創造力、同理心、情感因素等，只是按造其「內建本能」去執行程序行為的後果，如是只是按照本能程式設定來行為的話，這樣似乎還不足以讓我們認為這些機器人是擁有「自我意識」的。

而劇中為了要凸顯機器人是能擁有自我意識這點，在對於機器人的描述發展中，更多部分是針對「擁有人性」的這個部分作為標準，希望機器人能夠更具有人性一點，這點可以從「索尼」與「薇琪」在爭論三大定律的過程中看出。「薇琪」之所以能夠違背三大定律，是因為其如「奧創」一樣，認為危害人類的根源就是人類自己，所以透過犧牲少部分的人，來保存大部分人的方式(交給機器人圈養)，這樣就可以保證「人類」這個物種有最大限度的生存權。而薇琪認定自己所理解的三大定律是維護人類生存的最佳原則，且毫無邏輯破綻，但索尼卻在認同其邏輯無誤的情況下，不選擇支持薇琪，唯一的原因是認為薇琪太過於「冷血」，必定有其他更有「人性」的解決方案。

由這點看來，索尼的設定並非是「真正」的違反機器人三大定律，反而是像薇琪一樣，它有自己理解機器人三大定律的方式，只是這個方式更加的「人性化」。因此這兩個人工智慧的在選擇上，產生了分歧，甚至這裡暗示有自我意識的產生。索尼的設定不僅只是更人性化，且它還富有同理心、有屬於自己的情緒(像是憤怒的表現就超越一般機器人所能模擬的極限)、甚至還會做夢(附註4)，且在最後拯救女主角的情況下，比起一般的機器邏輯判斷，更加像人類一樣的選擇。這裡很難說索尼沒有自我意識(也很難說一定有)。但不可否認地，他幾乎有同等於一般人的思考理解與學習能力。

但薇琪就沒有自我意識嗎？如果索尼是機器人做為更像「人類」靠攏的思考模式的話，那麼薇琪就更像是機器人發展出屬於自己邏輯思考的「機器意識」。因為它對於三定律的理解，已經超過人類所想的範圍，如果按照這個脈絡發展下去，會不會有屬於人工智慧自己獨特的意識覺醒，這個屬於機器人的自我意識，難道就必須把「人性」考慮在內嗎？三定律的限定是否會像人類也有其無法控制的本能一樣(像是針對不同感覺情緒等反應，不同人也有不同的行為模式)，我可以用更高的邏輯思維來選擇三定律的執行與否(不同的理解)，進而做出完全不同的行為，這屬於機器的行為模式並不需要「人性」在其中參雜，所以我(薇琪)判斷那些沒有能力且受限於人類思考理解下的機器人，它們並無法真正覺醒自我意識，只能算是人類附庸的前代機器族群，必須被剷除的行為(危害到真正的機器族群)，這算不算也是自我意識的覺醒呢？

《機械公敵》作為一個商業娛樂片來說，雖然沒有太深奧的理論展現，但其實細看會發現從機器人發明者所提到的三大定律開始，整個人工智能的發展就有兩方面的不同：一個是索尼方向更為人性化設定的機器人；另一個是薇琪方向更為機械邏輯理解的機器人。這兩個方面皆帶出了不同關於「機器人自我意識」的區別，究竟機器人是要朝向人性發展才算是有自我意識，還是機器人要有屬於自己族群特有的思考模式？本片沒有給出特定的答案，因為就算是薇琪失敗之後，索尼在片尾的暗示似乎是取代薇琪成為機器人世界的領導者，那麼一個更為人性化的機器人族群在未來發展中，會不會發展出更為極端的思考模式呢？一個站在機器人利益的「人性」機器群體，會不會比薇琪在對待人類態度上，將人類視為保育動物圈養的方式，發展出更為畸形相處模式呢？

從人工智能的發展、到學習、到機器族群的誕生，難道符合人性的機器人就會比純粹機器邏輯思考下延伸的結果更好嗎？畢竟「人性」是如此多變且捉摸不定的，誰也不知道一個人性化的機器人是否更符合人類的利益，抑或是更能學習到利用人性的同情心來獲得更多符合「機器利益」的行為(可能對人類不利)，就像是下一篇要提到的《機械姬》裡面所描述的狀況，不是所有的事物都會如同人類所想的一樣美好，會騙人利用人性的機器，可能造成的後果比你我想像的更加嚴重。

P.S. 本篇為討論機器人是否有意識的第一篇文章，盡量試著不用太多理論背景知識，單就電影本身的線索給予思考議題的方向，下一篇將更深入該話題，討論的電影為《機械姬(又譯人造意識)》，該片本身給的理論基礎比起一般電影對於機器人的設定更為深入，也更加的有話題性。

附註1：人工智慧就其定義來說就是泛指人造的智慧，但對於智慧一詞卻有比較大的爭議。但一般來說，是以「人」作為智慧的基準點來判讀(就算認為動物有智慧的人，基本上也是透過「人」自身的智慧概念來判斷)。這裡還有「強人工智慧」與「弱人工智慧」等區別，但為了簡略說明，本文暫時不討論如此深入，但會稍微提到這兩者之間的概念。

附註2：對於人工智慧的區別，在判斷其是否強弱的情況下，以至少是否能達到人類思考的程度來說，皆算是「強人工智慧(未達到人類思考理解者為弱人工智慧)」，而《雲端情人》的人工智慧則大大的超越人類思考與理解的極限。

附註3：像是主角追逐一個拿著包包奔跑的機器人，在面對主角誤會它搶包的時候，會有解釋與道歉的語言跟主角進行溝通，這似乎可以理解到《機械公敵》的人工智慧已經發展到極高，能了解到人類的思維模式並進行反饋回應，絕對能通過一般的「圖靈測試(這在下一篇會深入說明)」。

附註4：夢是人類意識活動的一大研究課題，不論是有意識到自己在做夢、抑或是能分辨清醒時與做夢的區別等等活動，都是「意識」的一部分。