「AI 系統中，會帶有系統建置者的影子。」｜《 終極警察國度 》
文／ 傑弗瑞・凱恩（Geoffrey Cain）
「我年輕時，曾在中國的一所大學演講，說科技會改變世界，說沒有人能遏止言論自由，說只要有心追求自由，就沒有任何人能阻擋。我這麼告訴學生和追隨我的那些人，承諾他們更美好的世界。」
「但我辜負了他們。科技並沒有使人自由，即使活在看似自由開放的世界，也仍舊是數位監獄的囚犯。我們曾經期待的美好未來，根本從未到來。」
阿道斯．赫胥黎（Aldous Huxley）在 他1932年的著作《美麗新世界》（Brave New World）中，描寫虛構的世界政府將嚴格的階級制度強加在兒童身上，並發放忘憂藥給人民，讓大家忘記活在二十六世紀的反烏托邦有多絕望。17年後，歐威爾在1949年出版《1984》，書中的政府更加公然極權，透過猶如圓形監獄的監控體系來控制人民。
這些科幻作家提出假設性問題，希望藉由描繪失控的未來，刺激讀者仔細思考眼前的決策。做對決策可以帶來進步，但如果做錯，則會把社會推向反烏托邦。新疆就是他們想 像中的那種反烏托邦。
眼見極權主義、世界大戰和種族屠殺在二十世紀發生，十分有先見之明的幾位作家認為，如果我們不採取行動，世界終將變成反烏托邦。
－
科技無所不在地充斥現代生活，已經普遍到我們經常忘了自己是如何被科技影響，但技術使用方面的規範卻遠跟不上。十年來，智慧型手機設計、社群媒體交流和電子商務技術 都歷經長足進步，現在，全世界又即將邁入新一波的科技革命：在某些領域，AI可發展出超級智慧，逐漸超越人類。
但知名未來學家和技術專家都認為，AI短期內應該不太可能複製人類大腦的運作方式。儘管如此，我們還是不能太過樂觀，斷定AI一定辦不到，或認為新疆的監控手段不會擴散到全球各地。
所以眼前的問題，並不是AI監控會不會在不久後的將來滲透人類社會，而是政府和掌握珍貴智慧財產的企業有沒有能力規範AI、保護民主？企業會不會以股東要求為重，只在 乎擴大利潤；會不會聽命於政府，更進一步地加強防範流行病、打擊犯罪的安全措施？
新疆的「現況」也不能完全歸咎於科技進步，而是因為決策者決定要以壓迫手段，不留餘地、毫無人性關懷地使用科技，導致無辜的人被誤認、被冠上莫須有的罪名，或因為 「懷抱恐怖主義思想」的荒謬指控而消失。
但無論如何，西方已開始反對使用中國部署於新疆的技術了。
－
眼見中國崛起，梅森很是擔心。 數十名維吾爾人都告訴我，他們很怕家人和朋友永遠無 法離開集中營，怕終極警察帝國永遠不會瓦解。
2020 年 12 月，梅森聽說了令人驚慌的消息：中國與土耳其簽署了引渡條款，如此一來，土國可能會被迫遣返有「恐怖主義」之嫌的維吾爾人。
「土耳其的狀況讓我很擔心，我很怕他們會為了中國的錢，而簽下那份協議，畢竟投資對他們來說，是很重要的事。」
隨著中國這個終極警察帝國的勢力擴散到全球，梅森開始意識到她要展開新生活是多麼困難，畢竟周遭發生了這麼多戲劇化的事件，她也難以置身事外。「這就是二十一世紀的警察帝國，」她說，「我們身處在新的時代，現在的專制手段已經不一樣了。」
梅森在說出自身經歷的過程中，慢慢放下了過去。她不確定未來會怎樣，但想擺脫現下的憂慮，好好地繼續活下去。
「不論之後發生什麼事，我都會像之前一樣，持續思考說出故事的意義。故事自有其生命，」我們告別時她這麼說，「只要故事留存，我們也就能跟著繼續活下去。」
*截至 2021年2月23日，土耳其尚未批准條款。
✦內容取自《 終極警察國度：擺脫人臉辨識、DNA跟蹤、人工智慧，揭開中國反烏托的駭人真相》／寶鼎出版
【購書連結】
你可能也想看
