《AI世代》是一本從政治哲學的角度反思人工智慧的著作。它從自由、平等、民主、權力和環境五個維度探討人工智慧的政治角色，以期提供政治哲學在這個領域的理論框架。接下來，我簡述一些有啟發性的觀點。環境一章感觸不深，跳過不談。
自由：人工智慧的操控與機器人奴役
考量人工智慧對自由的衝擊時，我們可以從消極自由和積極自由的角度切入。
人工智慧助長了監控的力度和廣度，尤其在威權國家，以臉部識別技術記錄大眾的動向，規訓大眾的行為。在相對個人層面的社群媒體上，透過縱向（公司對個人）、橫向（同儕之間）和逆向（自我）監視，人們也逐漸失去保有隱私的空間。這是對消極自由的威脅。
在此，「助推」是一個很重要的概念，意味著透過控制選擇的環境，以改變用戶的行為。社群媒體的排序，Netflix的影片推薦等都是助推的典型例子。這種干預表面上沒有剝奪選擇和行動自由，但卻接近一種自由至上主義式的家父長主義，呈現出一副它比你更懂你的樣態，引導你做出選擇。這是對積極自由的威脅。
跳脫出個人層面，我們可以思考一下人工智慧對關係性自由的衝擊。在應用程式的使用過程中，使用者成了提供免費勞動（數據）的被剝削者，好讓廣告商能在我們身上對症下藥。長期成癮於應用程式無法實現自我發展，使用者成了一個對象，一個數據的集合。同時，我們生產數據的設備（手機、電腦），往往是在奴隸般的條件下生產出來的。自動化科技的機器加深了異化，惡化了工作條件，並最終導致失業和薪資降低。
除了消極自由、積極自由和關係性自由之外，本章還提到政治參與的自由。顯而易見的問題是：1.考慮到人工智慧影響之廣，科技及其應用卻不是由公民決定，而是由政府和企業決定。人們應該能夠對此提出批判，並要求公民們參與有關人工智慧與機器人技術的公共討論與政治決策；2.創新過程需要將公民和他們的價值納入考量。
平等與正義：由人工智慧所造成的偏見與歧視
本章提出了四種正義觀。平等主義的與重分配的正義觀（每個人都取得相同份額）、英才主義式的正義觀（以才德為基準分配份額）、充分主義式的正義觀（維持特定物品的最低限度的分配，如無條件基本收入）和優先主義式的正義觀（優先考慮處境最不利的群體）。
以上四種正義觀都有助於思考人工智慧要往什麼方向走，但若以馬克思主義的視角來看，真正的問題在於人工智慧與機器人技術是在資本主義體系底下使用的，而資本主義不是為了解放人們才使用這些科技，而是為了使資本家更加富有。這種驅動力的本質意味著，透過自由市場消弭演算法的歧視是不可能的，因為資本家毫無減少偏見的動機。
另一思考路徑是認同政治。無論是上述的四種正義觀，還是馬克思主義的觀點，都是從一種整體化約的人來思考問題的，但認同政治訴求的是不同的社會群體的差異性。在他們看來，普世主義的思想無法有效創建一個正義且平等的社會，反而只服務特定群體。所謂普世的人，指的往往是白人或男人。在新殖民主義的背景之下，人們可以透過提及新殖民主義的危險來批判地看待人工智慧。由奴役和歧視的歷史背景來看，反對把機器人視為奴隸的原因在於，這種看法延續了一種主人與奴隸的歷史思維，延續了一種邊緣化並排除特定群體的歷史。
至於科技在道德上與政治上是中性的想法，也可透過以下證據反駁：1.數據並非中性、客觀、原始，反而是透過知識生產的運作產生（也就是說，延續了歷史，連同其中的偏見）；2.處理數據的團隊可能缺乏族裔和政治觀點多樣性；3.僅靠科技專家無法解決倫理和政治爭辯；4.人工智慧的發展仰賴全球南方的人類勞動，而後者未能從中獲得公平的報酬。
民主：同溫層效應與機器極權主義
這一章的亮點是兩種民主類型的對比。
第一種強調共識。公民們在平等的公共審議中運用實踐智慧，不只關心自身目標與利益，也對他人做出回應。這種透過討論得出共識的做法，建基於對理性的信任之上。
第二種強調鬥爭和差異。這一派的學者認為民主應該更具有包容性和溝通性，勿過度強調理性的作用。在民主中，新的聲音、新的發言風格和情感因素都值得重視。「對抗性」內在於所有人類社會，民主則是根植於歧義和非共識。
在這兩種民主中，人工智慧又扮演了什麼角色呢？我們可以注意到，網路和社群媒體造成了個人化、碎片化和兩極化的問題。個人化限制了視野，阻礙了移情作用，導致了社會分崩離析。同溫層效應主動排除其他聲音，進而造成使用者不再相信所有外部來源。社群媒體能夠實現這些功能，當然要得益於人工智慧的發展。
反過來說，政客們也可透過窄播操控輿論。窄播指的是向世界上的特定人群發送極具針對性的訊息，是公共領域的私有化，如劍橋分析事件。
正如庫德瑞、萊文斯頓和馬爾侃指出，公共議題和政治涉及的不只是社會歸屬或是身分認同的表達而已。民主需要對一些公共問題有一個概念，並且這些問題需要一種共同的定義與集體的解放。但是科技容易模糊公私的界線。
人工智慧不只是政治的工具，還改變了政治本身。即便人工智慧在民主的框架內使用，仍將面臨做決策時的課責性和正當性的問題，尤其當決策過程不透明時，可能會導致演算法不斷複製社會偏見而不自知。
人工智慧不僅能協助威權主義的統治者進行選舉舞弊、散播假新聞、控制並鎮壓反對派，它還可以協助創建全面監控和全面控制。掌握了每個人的狀況之後，它宣稱比我們更了解我們自己，進而為威權主義開路。另一方面，這也使得一種企業極權主義得以可能，它監控並修改（助推）人類行為，把日常經驗商品化。
若以鄂蘭的理論來看，人工智慧（如演算法控制社群媒體頁面）使得人們遠離現實，打造了個人的孤獨心境，這些特徵都可能是極權主義形成的條件。她口中的平庸之惡也體現在某些科技公司裡服從命令而不做道德思考的員工身上。
權力：經由數據的監控與（自我）規訓
從馬克思主義的角度來看，人工智慧的權力被概念化為對資本主義和特定的社會階級的支持。我們正生活在科技資本主義的新型態之下：企業在追求權力和利潤的過程中，不僅試圖控制公共領域中的方方面面，也試圖控制我們的生活。在更大的層面，人工智慧被用來服務資本主義國家與他們的民族主義進程。人工智慧不是中性的，它的政治選擇由政府和開發人員決定。或許可以說，這就是數據殖民主義。
有趣的是科幻小說（我想還能加上電影、電玩、動畫）在其中扮演的角色。這些作品裡的場景似乎有助於維持而非質疑具支配地位的資本主義。正如哈維所言：「新科技許諾了一種烏托邦式的社會主義未來，卻在缺乏其他行動形式的情況下，被資本收編為剝削和積累的新形態與新模式。」
如果以傅柯的理論來映照現在，透過人工智慧取得權力的社群媒體和監控科技，創造出溫順的身體，使我們成為滾動和按讚的機器，進而建造了一座座不起眼的全景式監獄。如今，我們的身分認同的生產發生在更加平行的社會結構和社群媒體的過程中，我們不僅受到政府和公司等權力的階層式機構的監控和規訓，也受到同儕們的監控和規訓，最終是我們對自己的監控和規訓。不同的社會需要不同的身體，而「人工智慧社會」需要的是這樣的身體：能夠被數據化、被量化，並透過與智慧型手機和其他設備的互動，被調動來傳遞這些數據和數字。人工智慧可能被視作虛擬的或非物質的（從這個產業依賴的勞動力和造成的碳足跡來講這個說法不怎麼有說服力），但它的使用和效果卻是物質的、物理性的、涉及了身體和頭腦。
但人工智慧也能被視作「自我技術」的一環，讓使用者得以根據自我需要生產出新的主體，即自己對自己施加權力，生產出數字知識並量化自我，可見這個過程並非完全被動。這種想法的危險之處在於，它暗示自我和他者都可以被化約為數位資訊的集合，成為數位自我。
寫於2024.09.27
