AI 作為權力與控制工具的角色，深深植根於治理與管理的歷史延續中。Photo by Possessed Photography on Unsplash
人工智慧 （AI） 經常被譽為科技進步的明燈，預示著效率與能力的新領域。然而，這種說法忽略了影響其發展和部署的深遠歷史、社會政治和經濟趨勢。
《Histories of artificial intelligence: a genealogy of power》採用系譜學（genealogy）的方法，深入探究人工智慧發展的複雜性，揭露 AI 作為權力與控制工具的角色，深深植根於治理與管理的歷史延續中。
AI 是管理時代的產物
事實上，AI 並非是「資訊時代」（約 1950 年代至今）的產物，整體的發展可追溯至 1500 年代的「管理時代」有著密切的關係。
這個時代標誌著對社會進行系統化行政控制的開始，管理實務被設計用來簡化治理和強制遵守。在這個更廣闊的歷史背景下，AI 成為這些控制機制的現代化。
管理時代的核心是藉由行政能力來控制或指導。
管理時代的核心是藉由行政能力來控制或指導。Photo by Alvaro Reyes on Unsplash
AI 技術的發展和應用，例如：生物識別技術、人口管理系統等，都是為了強化國家和企業的管理和控制能力。
AI 將精算科學、辦公室文化、人口抽樣、牲畜管理等領域的管理技術，直接導入並編碼到系統中，進一步擴大了管理主義的影響範圍和程度。
類似於法國哲學家 Michel Foucault 所說的「生命政治」（bio-politics）的概念，意即，國家透過監視、分類、審查、訴狀、檢測等手段，圍繞著人民的能動性展現，也稱之為規訓權力（disciplinary power）。
從這個角度來理解人工智慧，可以發現 AI 並非純粹的科技產品，而是一種精密的工具，其目的在於擴大並完善傳統權力結構的覆蓋範圍。
－
AI 系統中的殖民主義與種族化
AI 的發展因其根源於殖民主義與種族意識形態而更加複雜。
進一步地說，AI 並非客觀中立的技術，而是體現了西方知識體系和權力結構。作者認為，AI 繼承了殖民主義、種族科學和資本主義的剝削和種族主義遺緒。
為 AI 提供動力的演算法通常會複製這些偏見，透過在治安、僱用和借貸方面的自動化決策，使歧視獲得存續，甚至穩定化。承認這一點，對於打破 AI 中立的迷思，以及解決這些技術可能會加劇的社會不公，將會至關重要。
－
將心靈比喻成「無主之地」
在這篇論文裡，作者提到一個關鍵的切入點
「無主之地」（terra nullius） 的概念被用來類比 AI 的發展，並非指實際的土地，而是指心智 （mind） 和 智慧 （intelligence）。
無主之地的概念被用來類比 AI 的發展，並非指實際的土地，而是指心智和智慧。
殖民主義與 AI 的類比
如同殖民者宣稱，只要未被西方邏輯耕種和佔領的土地屬於無主之地，可以被強行攻佔、進行殖民，AI 也將心智和智慧，視為可以被西方形式化的方式佔領和建構的領域。
文中所提出 animo nullius （無人之心） 的概念，代表 AI 將「心智」視為無人擁有（佔有）的疆域（unclaimed territory），可以被程式佔據。這相當於是一套殖民主義遺緒的比喻，用以強調 AI 如何試圖透過數學形式化來「佔領」認知 （cognition） 的所有權。
這種類比暴力突顯了發展 AI 技術的過程，如何忽視、抹除並貶低既有的知識和智慧文化。
AI 將「心智」視為無人擁有（佔有）的疆域，可以被程式佔據。
－
經濟邏輯與奪取
如同殖民母國是為了經濟利益而奪取土地，AI 的發展也與資本主義邏輯中的「奪取」（seizure） 行為有關。這種奪取不僅限於數據，也包括對認知和智慧的「奪取」。
科技巨頭集團（如：Google、Meta、字節跳動、X）利用 AI 的技術創新發展來掩蓋這種奪取行為，將其包裝成新穎的轉變或發現。
無論是符號方法還是連結主義方法，AI 都以數學形式化作為「聲稱」認知的一種方式。這種形式化不僅是技術性的，更是一種控制心智的方式，與殖民者控制土地的方式相似。
科技巨頭集團利用 AI 的技術創新發展來掩蓋奪取行為，將其包裝成新穎的轉變或發現。
－
AI 生態系統中的隱藏勞工
與一般人對人工智慧完全自主的想像相反，人工智慧系統的運作嚴重依賴的人類勞動。
文中指出，「隱藏勞動」（hidden labour）在 AI 的發展中扮演至關重要的角色。這種勞動通常不被承認，卻是使 AI 系統得以運作的基礎。以下是「隱藏勞動」在 AI 發展中的具體體現：
數據的創造與標註
為了訓練 AI 系統，需要大量的數據。這些數據的創造、標註和結構化都仰賴人力。
例如，為了讓機器學習模型辨識圖像，需要有人工標註圖像中的物體，這是一項耗時且重複性的工作。
網路內容審核
AI 系統在應用過程中，有許多的內容需要人工審核，判別是否符合現行的社群規範。這項工作通常由低薪勞工執行，以確保內容符合規範。
一部 2018 年的紀錄片《The Cleaners》正是揭露了「網路清道夫」的日常工作。有許多清道夫長時間暴露在血腥、暴力、兒少性剝削的影像裡，造成無法復原的心理創傷。
2018 年的紀錄片《The Cleaners》正是揭露了「網路清道夫」的日常工作。來源：IMDB
礦物開採與基礎設施維護
AI 系統的硬體基礎需要礦物資源，主要用於微電子產品的稀土礦物。
這些礦物的開採通常在惡劣的條件下進行。此外，維護 AI 系統所需的基礎設施也需要大量人力投入。
AI 讓工作重新配置
自動化系統的引入並不一定會取代人類勞動，而是會重新配置勞動。這表示，隨著自動化的推進，勞動的性質和地點可能會發生變化，權力、責任也會隨之重新分配。
「隱藏勞動」揭示了 AI 系統背後的社會關係和權力結構。
AI 系統的運作並非完全自動化，而是建立在大量人類勞動的基礎上。
AI 系統的運作並非完全自動化，而是建立在大量人類勞動的基礎上。這種勞動通常被隱藏起來，使得 AI 看起來像是獨立運作的科技。
論文中強調，這些勞動往往被低估，且多由弱勢群體承擔，例如全球南方國家的勞工。這點出了 AI 技術發展背後可能存在的剝削和不平等問題。
此外，論文也提到，隨著 AI 系統的發展，人們對於「自動化」的理解需要改變，不應將自動化視為完全取代人類勞動的過程，而是視為一種重新配置和分配勞動的方式。
