文 / 傑洛米・卡恩（Jeremy Kahn）
在 AI 的協助下，政府或許可以更快、更容易察覺民眾關切的議題並予以回應，但如果我們不趕緊行動，AI 很可能會連現在仍殘存的那一點點信任都摧毀。
在 AI 無所不在的時代，一道災難性的鴻溝正逐漸成形，可能撕裂社會：一邊的人經濟狀況較佳，負擔得起人類服務，在工作上也能與真人互動；另一邊的人則漸漸只能被 AI 管理，也只用得起 AI 提供的服務。這樣的情況已浮現在許多領域，譬如有錢人能負擔私人理專和旅行顧問，可以透過電話聯絡，甚至親自見面；相較之下，大部分的人則必須用手機應用程式和網站自行處理相關事務，如果遇到問題，也只能問聊天機器人或無止盡地等待，最後也只能和菲律賓或印度的某個客服專員說上話。未來，這種兩極化的現象可能會出現在生活中愈來愈多的領域。
如果你請得起人類...
隨著 AI 助理日益進步，能處理更多客戶需求，企業可能會開始加收費用，這樣一來，有經濟能力的客戶就得額外付費，才能換取親切的人類專員替他們解決問題。富裕階級將繼續用金錢購買真人服務，請人替他們打理生活，其他人則只能仰賴 AI 助手；有錢人仍 會請家教來教小孩，沒錢的話，就只能看孩子受 AI 教育；而且誠如第 4 章所述，受過教育的菁英在工作上將保有高度自主性，還會有 AI 助手支援，反觀藍領階級和服務業工作者則可能發現自己猶如半機器人──雖然還是人，但工作的分分秒秒都會由嚴苛無情的 AI 經理主導，人類本來的自主意志將逐漸變成奢侈品。
在任何環境下，自主權被剝奪都會造成不穩定，也可能引發抗爭，不過貧者與富者日常受到的待遇如果愈差愈多，在民主社會中特別危險，那些被降級到只能與 AI 互動的人將感到憤恨，對菁英階層更怨、更不信任。這樣的分化會讓人認為社會和政府體制並不是為所有人服務，也會削減國家內部的凝聚力，製造出階級化的雙層社會，上層與下層的生活日益分化，也愈來愈不平等。
不公平的正義
AI 在執法領域的應用，衍生出許多令人擔憂的隱性偏見問題。 舉例來說，有一款廣為販售的演算法，是用來協助法官和假釋委員「根據風險」做出判斷，決定應該給誰出獄的機會。但相關資料顯示，如果白人和黑人犯下的罪行相當，演算法推薦提前釋放白人的機率高出許多，基本上就是低估了白人罪犯的再犯率，對於黑人則是高估；某些宣稱能幫助警方預測犯罪「熱點」的工具，也導致黑人和其他少數族群社區被捕的人數超高，主要是因為這種預測型 AI 系統是用過往的逮捕資料訓練，偏偏這些資料中又存在警察執法時的系統性偏見，這情況與主要是白人居住的富裕社區相比，警察機關在處理貧困非白人社區的事務時，經常會加重力道，並採行不同的標準與執法方式，例如在路上直接攔截盤查等。
－
使用逮捕資料而不是定罪資料，也可能產生風險。「一開始就用了錯誤的資料，再用工具處理後會變得更糟。」科羅拉多大學博爾德分校（University of Colorado Boulder）的演算法偏誤研究員 凱蒂．華盛頓（Katy Washington）這麼告訴《MIT科技評論》（MIT Technology Review）。另一大問題則是警方使用人臉辨識軟體，相關資料已經證實，多數系統處理膚色較深的臉孔時準確度較低，對黑人女性又特別不準。Clearview 是一款備受爭議的人臉辨識應用程式，因從社群媒體網站搜刮大量資料，而被控違反網站條款與條件，以及伊利諾州等地的州級法律，造成了隱私權方面的疑慮，而且也未曾接受獨立驗證，來證明其準確性和公正性。話雖如此， 美國警察部門卻仍大規模採用Clearview。
追蹤Clearview AI的崛起：人臉辨識工具在缺乏謹慎和政府監管情況下的可怕影響，讓我們不禁反思：你是要「安全還是隱私權？」
人為決策難免帶有偏見成分，所以有些人認為 AI 能帶來公平公正。美國公民自由聯盟（American Civil Liberties Union）研究了 2017 年引進紐澤西州的風險評估工具，發現被關進監獄等待審訊的人數因 AI 而減少 20%。但要達到這樣的效果，有一個很重要的 前提：使用時得深思熟慮，也必須正確導入。
－
歐洲一項研究顯示，和信用分數相比，有五種資料能更精確地預估還款能力：裝置品牌（Mac或PC）、裝置類型（手機、平板或電腦）、申請貸款的時段、電子郵件網域（Gmail或Hotmail）、電子郵件地址，是否含有申請者的全名或名字的一部分。不過研究人員也發現，這些資料其實都和受保護的群體有關聯（譬如白人擁有Mac的機率較高），可能不符合美國的貸款法規。不過，放款機構可以主張從信貸風險演算法中拿掉任何一項資料，都會使價格預測的準確度下降，藉此規避禁止差別影響的法律。換句話說，放貸方和保險公司要是有心操弄體制，簡直輕而易舉。
反之，如果我們願意以創新、負責任的方式使用科技，AI 其實能讓以往處於弱勢的群體比較容易借款。VyStar Credit Union是美國最大的信用合作社之一，他們採用新創公司Zest AI的AI信貸風險評分軟體，來提高信用卡申請的批准率，效果在少數族群和其他長 期弱勢的群體中特別明顯，核卡率成長 20% 以上，違約風險等級仍維持不變。「好幾千人原本申請不到信用卡，現在都有機會了。」 VyStar 的貸款業務長珍妮．維珀曼（Jenny Vipperman）這麼說。
不平的機會
有許多方法可以消除這種偏見，提升資料收集品質就是其中之一；此外，也可以用離群值刻意過度訓練模型，或用電腦生成的例子建置合成資料集，填補實際資料集的空缺。不過，科技公司在建立大型基礎模型時，必須有意識地採取這些步驟，可惜目前並沒有企業這麼做。AI 正快速應用在商業、教育和政府等領域的許多不同層面，所以很容易產生問題。
換句話說，其實使用 AI 並不一定會導致社會不平等惡化，但我們必須督促科技公司採取行動，把 AI 打造成推動平等的工具。歐盟制定《人工智慧法案》，就是在朝這個方向努力。該法案含有風險評估機制，適用於有歐洲客戶或員工的任何企業，所以基本上幾乎 等同是全球性的標準。美國也應該訂立 AI 法規，強制要求對模型進行偏誤測試。AI 模型的開發應以促進平等為目標，聯邦貿易委員會（Federal Trade Commission）可帶頭規範通用型的AI系統，至於用途較特定的 AI 軟體（如第 9 章討論的醫院系統），則必須要由其他主管機關一同關注；聯邦儲備系統（Federal Reserve）、證券交易委員會（Securities and Exchange Commission）及州級保險監管機構，也應該尋求可提升財務平等的演算法。
小偷與駭客福音
網際網路發明到現在，AI 大概是不肖分子眼中最棒的禮物。以前假冒銀行的電子郵件中，往往會有文法錯誤和不自然的用語，不難看出是詐騙，可能是奈及利亞的騙子或俄羅斯的黑道想竊取你的密碼或帳戶資訊。但現在，即使英文不是母語的人，也可以用ChatGPT 或其他 LLM 寫出以假亂真的網路釣魚信。有些人可能接過電話，聽到話筒另一端傳來姪子驚恐不已的聲音，邊哭邊說他被綁架，如果你不立刻匯款給歹徒，他就會被殺。這可能是詐騙分子用聲音複製軟體打電話，專門瞄準容易受騙的年長親屬，甚至會用 AI 模仿女兒痛苦的尖叫聲，聲稱綁匪用小刀刺她，提高勒索成功的機率；另外也有人用聲音複製技術來假冒企業 CEO，假借祕密交易的名義，誘騙戒心不夠的財務部門主管匯款。
現在的深偽技術甚至能即時換臉，即使是用 Zoom 在開會，螢幕上的人也可能是冒牌貨。某家公司似乎就因為在 Zoom 會議上受騙，以為是在跟高階主管通話，結果損失了 2,500 萬美金。
AI 能有效擔任程式助手，但也能成為駭客利器，即使不那麼精通科技，也能在 AI 加持下發動精密的網路攻擊。
AI鬥AI
充斥 AI 駭客攻擊的世界聽起來很可怕，但其實我們可以運用 AI，有效反制不肖分子用 AI 製造的惡意軟體，長期來看，AI 對防禦方而言，會比對攻擊者更有用。駭客能用 AI 搜尋程式碼資料庫中可能存在的漏洞，但資安專家也可以藉助 AI，搶在駭客之前就先找到安全漏洞並且修復，甚至可以請聊天機器人扮演攻擊者，進行 「紅隊」測試，揪出自家網路中的弱點。
訓練有素的網路安全分析師和資安主管不足，是網路安全領域最大的問題之一。在這方面，AI 可扮演關鍵的助手角色。谷歌已利用PaLM 2模型，訓練出特別用來協助資安人員的版本；Darktrace 和Palo Alto Networks等公司也推出AI網路安全程式，運作方式類 似人類的免疫系統，能自動偵測網路異常、阻絕威脅並尋找解決方式，速度全都比真人來得快。
草根行銷肥料
媒體最大篇幅報導的或許是深偽技術，但其實 AI 對民主社會還有更險惡的威脅。抱持特定立場的政治團體可能會利用 AI 技術，強力推動「草根行銷」（astroturf），意思是企業用傀儡組織隱藏內部真正的架構，在這樣的掩護之下進行遊說，營造出草根民眾支持某政策的假象。遊說團體已經開始使用自動化技術，推行假草根運動。
要打擊不實評論，各國政府必須在徵求公眾意見的網站上，對機器人強化現有的防禦機制，如 CAPTCHA 系統或兩步驟驗證。雖然 AI 一再演進，最終很可能會突破防守，但這麼做至少能提高發動假草根運動的難度；另外，當局也應該要求社群媒體公司協助，加 強掃蕩機器人和假帳號。
．
．
．
在適當的政策下，AI 有潛力增進民主、加強信任，但以現況來看，這項科技很可能會造成反效果，繼續破壞已經飽受摧殘的資訊生態系，並更加弱化社群意識及民主程序。AI 將擴大享有特權的富裕菁英與其餘大眾之間的差距，使眾人不再期待社會公平與機會平 等，因此不再支持民主政府，進而動搖民主政治的基礎。我們必須為眼前的挑戰做好準備，採取因應措施，導正 AI 的發展方向，用這項技術增進人類智慧、提升人類尊嚴。
因演算法成為網爆與煽動性貼文充斥的「憤怒機器」：這些工具如何劫持我們深層的部落社會本能和心理脆弱性，以及它們如何成為專制者的機會主義平台，對民主規範造成重大威脅？
✦ 內容取自《 AI來了，你還不開始準備嗎？：人工智慧正全面改寫你的生活、職涯與競爭力 》／寶鼎出版
【購書連結】
