2024-08-03|閱讀時間 ‧ 約 35 分鐘

人工智慧影像監控 Vidéosurveillance algorithmique, VSA

基於公共安全而使用人工智慧影像監控,可能認為侵害到隱私權、集會權及不受歧視權等基本權利。

基於公共安全而使用人工智慧影像監控,可能認為侵害到隱私權、集會權及不受歧視權等基本權利。


巴黎奧運在7月26日開幕,各項賽事如火如荼地進行中。為了使賽事順利進行,在巴黎街頭到處都有警察及憲兵在巡邏,還有世界各國來派警力協助維護治安。除了部署大量警力,為了進一步加強安全措施,早在2023年3月,法國國會即通過奧運安全法案的《第七條》,允許在奧運期間使用AI透過演算法辨識公共場合中「可疑行為」。自法案提出後,飽受人權團體的抗議,認為侵害到個人隱私權、集會自由權及不受歧視權等基本權利。

 

國際特赦組織表示人工智能影像監控(以下簡稱VSA)的主要爭議包含:

1. 對私人生活及自由構成威脅1

VSA係基於收集到的大數據來分析行為,儘管法國內政部部長熱拉爾德·達馬南(Gérald Darmanin)一再表示不會採用人臉辨識2,但在這過程中必然會拍到臉部,涉及侵犯隱私權。此外,一旦人意識到自己正在被監控,將導致自我審查3來修正行為,進而影響行使某些權利。

2. 污名化4特定族群:

首先,行為「正常」或「可疑」的標準是什麼?已有許多研究指出,AI存有潛在歧視,演算法看似公正,但歸根究底,是「人」在決定哪些數據用於演算法,而只要是人,就會受主觀偏見影響。

3. 可能為更加侵入性的監控開先例:

在奧運期間進行監控被列為暫時性措施,但在奧運結束後,蒐集到的數據仍會繼續使用到2025年3月底,運用在體育賽事、娛樂、文化性質等大型活動場合5,而演變成常態。國際特赦組織法國分會科技及人權專家凱蒂·胡(Katia Roux)表示:

En devenant 6 le premier État membre de l’UE à le faire, la France ouvre la voie à l’utilisation et la normalisation d’outils permettant une surveillance de masse.(法國成為歐盟成員國裡第一個實施大規模監控的國家,替人工智能監控的使用及普及化開闢了道路。)

 

大規模的監控並非是科技進步才出現的行為,早在羅馬時代就已經有了高度發達的情報組織與間諜活動。亞維農大學羅馬史教授凱薩琳沃夫(Catherine Wolff)解釋道,羅馬帝國權貴家族間競爭激烈,必須仰賴各自的情蒐網才得以互相監視。西元前一世紀,隨著拓展的道路越來越多,奧古斯都建立郵驛系統(le cursus publicus)以交換官方文件,郵差們則利用送信途中收集情報。西元二世紀,情報系統因官方運糧隊(les Frumentarii 7)而完善。起初他們的任務只是收集麥穗,運送穀物到軍隊,但漸漸衍伸到收集情報,甚至刺殺敵方,成為秘密警察。最後運糧部隊因勒索敲詐等貪腐行為受詬病,被政府代理官(les agentes in rebus)取代。

 

除了政治利益,中世紀歐洲教會以道德監控來約束社會行為,甚至連性行為也加以規範。根據當時教會規範,每個禮拜三、五、日及彌撒前一晚都是禁止性行為的日子,一旦發現有性行為,作為贖罪8,違反規定者會被處罰長達40天只吃麵包及喝水,且不準參加任何禮拜。

 

1667年,當時的巴黎混亂無序,為了整頓秩序和保障市民安全,加百列·尼古拉·德拉雷尼(Gabriel Nicolas de La Reynie, 1625-1709)被路易十四任命為警察總局首位局長,擁有如市長般的權限,建立了現代巴黎警察系統。德拉雷尼在城市各處部署了眼線,每天接收無數的情報:監獄官、負責執行命令的官員的例行報告,由律師、法官、醫生等各行業組成的網絡中傳遞來的最新訊息,甚至專門雇用的間諜及線人以隱形墨水書寫的報告。

 

1799年拿破崙發動霧月政變奪取政權後,由約瑟夫·傅歇(Joseph Fouché, 1759-1820)擔任警務部長,對社會進行全面監控。歷史學家讓·馬可·貝爾烈(Jean-Marc Berlière)說明,當時警察無所不在,目的在於讓市民感受到被注視觀察著,而不敢輕舉妄動。

 

到了1980年代,網路和DNA的出現為監視帶來革命性發展。申根資訊系統(Système d’information,簡稱SIS)允許成員國可以查證涉嫌犯罪、失蹤人口、非法移民等資料。在連續殺人犯蒂埃里·保林(Thierry Paulin)及連續強姦犯蓋伊·喬治(Guy Georges)事件發生後,法國政府先於1987年建立自動指紋辨識檔案(Fichier automatisé des empreintes digitales,簡稱FAED),後在1998年建立國家遺傳指紋檔案(Fichier national automatisé des empreintes génétiques,簡稱FNAEG)。法國資訊自由委員會(Commission nationale de l'informatique et des libertés,簡稱CNIL)指出,截至2018年,已搜集的基因檔案已高達290萬筆。

 

英國哲學家邊沁(Jeremy Bentham, 1748-1832)以理性計算快樂和痛苦,表明對罪犯施加的痛苦和折磨無法最大化9公共幸福,於是他在1791年向法國國會提出「圓形監獄」(Panopticon)的概念,即打造一座能節省成本,同時能有效監管囚犯的監獄,但旨在符合經濟效益,而非監視。法國哲學家傅柯(Michel Foucault)在他的著作《監視與懲罰》(Surveiller et punir, 1975)中認為此種監獄設計是權力規範10的化身,因爲「囚犯永遠無法確定自己是否被監視,但他必須確信自己隨時都可能被監視11」,並預見這種無形的權力規範將擴張到整個社會。

 

不論個人資料收集、圓形監獄或人工智慧影像監控,本意都是為了公共福祉而設,但隨著人工智慧的發展,監控規模可能擴大,未來是否可能如傅柯所言,這些措施將使無形的權力擴張,加深被監視者與監視者間的不對等關係?

 

 



Lexique :

1.  原文是menacer notre vie privée et nos libertés:Menacer (v.t.) 威脅 ,名詞une menace (n.f.);privé (adj.) 私人的,前面vie生活是陰性,所以加上e。

2.  La reconnaissance faciale:reconnaissance (n.f.) 認出,辨識,動詞是reconnaître (v.t.);facial (adj.),臉部的,前面reconnaissance是陰性,所以加上e。

3.  S’auto-censurer:censurer (v.t.) 審查,加上se為反身動詞se censurer自我檢查,再加上auto自動的,表示不由自主地自我檢查行為是否合乎規範。

4.  Stigmatiser:(v.t.) 歧視,污衊,名詞une stigmatisation (n.f.)。

5.  原文是Des manifestations sportives, récréatives ou culturelles:une manifestation (n.f.) 示威遊行,表演活動;sportif (adj.),運動的;récréatif (adj.),娛樂性的;culturel (adj.),文化的。

6.  En devenant……la France ouvre……:

[1] 這裡文法用到副動詞le gérondif,即動詞的副詞形式,作用相當於動詞的情狀補語,所以必須與主動詞為ouvre(原形動詞為ouvrir開啟)同一人稱。

[2] 副動詞永不變化,= en + 現在分詞,有肯定、否定及代名動詞的形式。

[3] 副動詞有很多用法,表示與主動詞的同時性、方式、原因、條件或假設。這裡屬於同時性的用法,法國在開啟監控普遍化的先例的同時,成為歐盟裡第一個這麼做的國家。

7. 在拉丁語,frumentum表示穀物。

8. Une pénitence:(n.f.) 處罰,苦修,形容詞pénitentiaire,感化、監獄的。

9.  Maximiser:(v.t.) 最大化,名詞maximum (n.m.),常用片語faire le maximum pour inf. 盡全力去做某事;反義詞minimiser最小化。

10. Le pouvoir disciplinaire:disciplinaire (adj.) 紀律的,名詞une discipline (n.f.)。傅柯在《監視與懲罰》大量使用這個詞來形容空間、時間、制度及控制(l’espace disciplinaire、le temps disciplinaire、un régime disciplinaire、le contrôle disciplinaire)等等。

11. 原文是le détenu ne doit jamais savoir s’il est actuellement regardé ; mais il doit être sûr qu’il peut toujours l’être:

[1] 這裡特別要提出說明的文法是句尾中性代名詞le,因後面的動詞être是母音開頭,所以變成l’être。

[2] 由於前後兩句同樣使用被動態的用法être… regardé(被⋯監視),為避免重複,用le代替前句regardé。

 

 

參考資料:

Amnesty International, « Jo 2024 : Pourquoi la vidéosurveillance algorithmique pose problème», https://www.amnesty.fr/liberte-d-expression/actualites/pourquoi-la-videosurveillance-algorithmique-pose-probleme-cameras-technologies. Consulté le 17 juillet.

RFI, « Vidéosurveillance algorithmique aux JO : de quoi parle-t-on, et pourquoi inquiète-t-elle ? », https://www.rfi.fr/fr/france/20240326-vidéosurveillance-algorithmique-aux-jo-de-quoi-parle-t-on-et-pourquoi-inquiète-t-elle. Consulté le 20 juillet.

Mark Milligan, « The Frumentarii- Rome’s army of spies », https://www.heritagedaily.com/2023/02/the-frumentarii-romes-army-of-spies/146198. Consulté le 19 juillet.

Miren Garaicoechea, « Somme-nous toujours plus fliqués ? », in Ça m’intéresse Histoire n˚84 Mai-Juin 2024, pp.16-19

Holly Tucker, « Let there be light Paris’ first police chief exposes the unholy work afoot in the ‘crime capital of the world’ », https://news.vanderbilt.edu/2017/09/07/let-there-be-light-paris-first-police-chief-exposes-the-unholy-work-afoot-in-the-crime-capital-of-the-world/. Consulté le 19 juillet.

Michel Eltchaninoff et Océane Gustave, « Les grands dilemmes de l’utilitarisme », in Philosophie n˚149 Mai 2021, pp.46-49

Michel Foucault, Surveiller et punir, Gallimard, 197

分享至
成為作者繼續創作的動力吧!
© 2024 vocus All rights reserved.