說到做到，歐盟對於人工智慧的立法（下）

在上一篇文章中，我們介紹到了歐盟對於人中智慧運用中關於「高風險」的分類，有「重要基礎設施（如交通），可能使人民的生命和健康受到威脅」；「教育或職業培訓，可能決定某人的受教育機會（如考試評分）」；「產品的安全零件（如AI在機器人輔助手術中的應用）」；「就業、員工管理和自雇管道（如徵才使用的履歷分類軟體）」等類型，本文將接著將高風險類型介紹完畢。

提供民眾基礎的融資需求及接近公共服務，是維持人民生活基礎的一環，在審查上，應避免由人工智慧主導實質審查，過度以符合資格為審查重點（不符合資格的人，亦有可能其需求強烈），人工智慧僅居於輔助的角色，讓真正有需求且符合資格的人民受有服務的機會。

在憲法中對於人民的基本權利多設有其保障的措施，而在國家侵害人民基本權利時，亦需要符合法律規定的要求，並有後續的審查機關，作為避免過度侵權的底線。在公務機關的執法上，應避免以人工智慧作為評斷證據的唯一依據，公務機關必須保有其自主判斷及決定的餘地，以維持其人類主體性的地位。

為了維護國家領域的完整與安全，國家對於邊境所採取的管制措施並非一致，且對於移民等相關業務的管理方法亦有不同。但相同的是，如每當出境或入境時，海關人員或邊境管理人員皆會進行實質的身分查驗，以避免單以系統檢測所可能產生的誤判。而人工智慧在此領域的運用，仍為輔助角色，而非能介入其決定的作成。

在司法的系統中，關於審判的主體是以法官為核心，強調以人類依據立法者所制定的法律，以正常邏輯推理及價值判斷，理性地做出合法且合理的裁判。此為人類所專屬，法律的體系不同於數學計算，並非套用一定公式就可以得出必然且絕對的答案，對於事實的合理認定、法律靈活的運用及法律價值的實現，是人工智慧所無法取代的價值。人工智慧的運用僅得在於查找及分析資料所用，或者部分機械式的簡單程序，擔任輔助的角色。

而民主的程序中，強調人民自主意識的展現，多數意見作為社會主流，並非已是與非作為民主程序中必要的條件。對於選舉中運用人工智慧判斷人民喜好及厭惡的事物，並投其所好，將產生選舉結果並非代表人民真正意志的災難。例如向英國脫歐、美國總統選舉等，人民被引導到政客所想見的方向，進而作出非自主意識所決定，民主程序及制度將被架空而岌岌可危。資本家藉由操控人工智慧，獲得政治利益應需要避免，將人民意志回歸人民，展現真正的思辨民主。

如上述所說的高風險的人工智慧，在系統上市前，必須受到嚴格的管控約束，而其管控的重要指標諸如，充分的風險評估和緩解系統；為系統提供高品質的資料集，以儘量減少風險和歧視性的結果；對活動進行記錄，以確保可追溯結果；提供關於系統及其目的的所有必要資訊，以便監管單位評估其合規性；向使用者提供充分且清晰的資訊；適當的人力監督措施，以最大限度地減少風險；高度的穩健性、安全性和準確性等項目，以確保在上市後人工智慧的輔助角色及功能。