心靈判官(Psycho-Pass)：利用人工智慧技術量化人的心理狀況之寓言

本文將從解析動畫作品心靈判官(Psycho-Pass)的出發，結合產業應用現況，提供給讀者深刻的思考。心靈判官(Psycho-Pass) 是一部充滿人文、科技以及社會思考的作品，主軸是探討人工智慧技術應用於犯罪。心靈判官(Psycho-Pass)播出兩季以及2019年10月預計要播第三季，提供科技與人性的思考，劇中的犯罪預防系統：西比拉系統，是一個以人工智慧為基礎的系統，而現實社會中人工智慧已經利用於犯罪預防，但是Psycho-Pass的社會是整個被系統所支配。

每次重大社會事件發生，特別是殘殺幼童案件，社會上總是討論死刑存廢與否。但客觀來說，不論是死刑或是廢除死刑，最好的預防方式就是在還沒犯罪之前，事先防範犯罪。近年來，人工智慧浪潮席捲全世界，各方大力發展人工智慧應用，雖然人工智慧帶來人類生活的便利性，但物理學家史蒂芬、霍金以及Elon Musk都曾經對人工智慧提出警告，認為人類若繼續廣泛開發人工智慧技術，將可能會造成人類的威脅，到底人工智慧是人類的未來? 還是潘朵拉的盒子?科技的進步超乎想像，十年前的人們應該很難想像十年後的今天，人們會創造出智慧手錶、智慧眼鏡等科技。

目前已經有許多人工智慧應用於犯罪的案例，例如：神奈川縣警方引進人工智慧系統，進行犯罪預防。若從影像作品來看，最知名的作品是Tom cruise主演的關鍵報告。本文探討的作品：心靈判官(Psycho-Pass)，雖然也是人工智慧應用犯罪的案例，但有別於其他案例，該作品是透過量化人之心靈數值，憑藉犯罪系數數值，判定人是否有犯罪意圖，雖然降低犯罪率但也衍生許多問題。例如：人都會有情緒起伏，偶而也存在壞念頭，但並不代表就是天生惡人

日本神奈川縣警方在2018年1月底，考慮引進人工智慧為基礎的犯罪系統，希望2020年東京奧運之前開始利用深度學習技術分析犯罪數據，並收集時間、地點、天氣和地理..等條件，預測犯罪熱門地點，並定期派警車巡邏，藉此降低犯罪率。

2017年3月份米蘭警方使用Key Crime公司的技術，在一家超市阻止超市搶劫。該公司背後技術概念是使用警方犯罪嫌疑人數據，配合被搶劫的商店地點，透過攝影鏡頭拍攝嫌疑人動作、以及攜帶的武器，來判別罪犯危險程度，更重要的是，分析犯罪者與附近犯罪案件有沒有什麼別的關係，如果有關聯，就可預測下一宗犯罪可能會在什麼時間和區域。日本一些便利商店使用人工智慧公司VAAK 的AI 技術，透過在監視攝影鏡頭導入AI 技術，就可以分析顧客，偵測可疑人士，進而找出潛在扒手，並提醒店員注意。

科技是兩面刃，解決社會問題，降低犯罪的背後，意味著拿掉人的隱私。本文探討的心靈判官(Psycho-Pass) 是一部反烏托邦的作品，劇情著重於建立一個理想社會，整個社會被西比拉系統(Sibyl System)所支配，決定人的職業以及藉由量化人的心理，降低犯罪率，其使用方式是系統透過支配者(Dominator) 與街道的攝影機進行人體掃描，利用獨特的演算法，將人的心理狀況和性格數值化，社會中的每個人都會被系統所監控，若心理數值超過標準值，就會被認定為潛在犯，則會事先抓去治療，如果心理數值一直居高不下，則會被西比拉系統之眼支配者(Dominator)制裁，因此整個社會的犯罪率降低。

雖然【西比拉系統】並沒有說使用什麼技術開發，但可以推論系統是一個以人工智慧為基礎的大數據系統，系統事先偵測人們的靈數值，進行犯罪預防，雖然能藉此降低犯罪率，但人的自由意志越來越弱。

在Psycho-Pass世界裡，所謂善惡被機器限制，人們看似有自由的選擇，其實都是系統限制範圍，人自由意志被限制，那麼人還有保有自主性的價值嗎 ? 人類生命的意義會變成如何 ? 這是劇中反派提出的質疑。長久以來人類追求美好的社會，假設社會被系統所支配，低犯罪率的社會卻代表著失去自由意志、隱私權，人工智慧應用應該是造福人類，但若脫離以人為本，那麼應該重新思考，這樣系統真的是對於人類有益。

目前人工智慧應用於犯罪，大都只是輔助人類進行決策，但最終做決定依然是人類，若要全面抑制犯罪，甚至打造烏托邦低犯罪率的社會，需要從人的潛意識著手，但從Psycho-Pass這部作品，所建構的社會之衍生議題，提供人類許多思考的面向，人的心理狀態有時候會隨著外在環境而變化，一時的壓力、或是情緒，難道能代表一個人是否有犯罪意圖，甚至歸類成壞人嗎?

目前討論人工智慧的議題著重於技術、趨勢和應用，但還有其他議題值得思考，例如: 人工智慧倫理道德，Psycho-Pass的世界觀提供許多未來的想像，讓我們思考到若要從人類的潛意識著手，抑制犯罪的產生會面臨到的社會問題，每個人都希望生活在一個烏托邦的世界，沒有犯罪的產生，但科技打造的烏托邦社會，若讓人類失去原本的自主性，這樣的世界不應該存在。

當AI 廣泛進入人類社會經濟層面，所引發的道德、法律、管理以及偏見爭議，設立相關的規範已經是刻不容緩的事情，對此，全球各企業和政府已經開始著手制定人工智慧道德原則，歐盟在2019年4月份公布人工智慧倫理道德準則規範【ETHICS GUIDELINES FOR TRUSTWORTHY AI】，制定人工智慧值得信賴的準則，建立以人為本的人工智慧，不能超越人類的自主性；IBM 在2018年2月份提出人工智慧日常倫理(Everyday Ethics for Artificial Intelligence）開發手冊，提供給開發人員研發AI時，需要考量的原則，以增進社會大眾對於人工智慧的信任。目前人工智慧倫理道德原則制定基本的規範，但還有許多人工智慧使用情境，是無法從現實世界中馬上得知，建議可以從相關人工智慧影視作品中，獲得靈感並定期人工智慧倫理道德規範。

不論是關鍵報告的預知系統、或是Psycho-Pass 的先知系統，雖然是透過系統支配，但依然有人為因素存在，因此若要達成完全的無偏見，是不太可能的事情，當科技遇到道德議題之間該如何取得平衡 ，考驗每個科技決策者的智慧。然而，對一般人而言，需思考所有科技應用都適合於人類社會嗎?