Image by JuliusH from Pixabay
在 AI 科技時代，未來的政治光景是一個令人不安的反烏托邦，其中巧妙操縱的內容製作成本極低，大規模生產非常容易，以至於變得無處不在。
人工智能降低了虛假訊息製造創作的門檻、加速了傳播的速度、擴大了散佈的規模。
整體社會的信任程度將下降，試圖報導事實真相與傳播真實訊息的記者及其他人的工作將變得更加困難，專家表示，這對資訊生態系統將毫無正面影響。
2016年美國總統大選之前，社群媒體成為了不實訊息的傳播媒介，極右派活動家、外國勢力活動及虛假新聞網站努力傳播虛假資訊，並且加劇了對立分裂。四年後，2020年美國總統大選被陰謀論及關於選民詐欺之類毫無根據的主張所淹沒，這些訊息被放大到數百萬人，而助長了一個反民主運動，企圖推翻選舉結果。
現在，又經過四年，隨著2024年美國總統大選逐漸浮現進入大眾視野，AI 人工智能的大躍進有潛力為過去的虛假訊息策略戰術注入強大威力。
在過去的幾個月來，一張由 AI 生成的美國五角大廈爆炸的圖像曾經導致股市短暫下滑；模仿美國總統玩電玩遊戲的 AI 音頻惡搞成為病毒式傳播趨勢；看似顯示川普擊退試圖逮捕他的警察的 AI 迷因梗圖在社群媒體平台上廣泛傳播。美國共和黨全國委員會發佈了一個完全由 AI 生成的廣告，展示各種想像中的災難、如果拜登當選連任將會發生……
能夠生成逼真圖片、模仿聲音音訊並寫出具有說服力的人類語言文本的 AI 工具在今年迅速崛起，不斷推陳出新的 AI 產品或服務推向大眾市場。AI 科技已經威脅到許多行業並加劇現有的不平等，如今越來越多地被用於製造政治性內容，新工具用於舊戰術，AI 深偽技術對民主構成威脅。
AI 對選舉可能造成的潛在危害，可以說無極限地大大超過了過去幾十年的選舉干預。在 AI 工具的幫助下，社群媒體機器人可以偽裝成狀似選民、操縱圖像或影像，甚至欺騙性的自動語音電話，都變得更容易製作、更難以追蹤檢測。
外國勢力也會乘機而入企圖影響美國選舉或破壞其公正性，正如美國聯邦官員長期以來一直聲稱中國和俄羅斯正在試圖做的事。製造欺騙性內容的語言障礙邊界正在逐漸消失，而詐騙者或虛假訊息活動所使用的重複措辭或奇怪詞語選擇的搬弄是非、顛倒黑白的符號正在被更具可信度的 AI 生成產出內容所取代。
如果你坐落在外國的一個所謂的「巨魔農場（troll farm）」（源於那些在網路上散播仇恨的人的名稱），你不再需要流利地使用目標受眾的語言來製作一篇聽起來或讀起來流暢的文章，你只需要讓一個 AI 語言模型生成一篇具有正確流利文法和詞彙的文章。
AI 生成電子郵件或偽參與可能創造一種虛假的選民基礎，使人難以理解真實選民實際上是如何看待議題。
人工智能技術可能加劇針對邊緣化群體的選民壓制活動，例如去年兩名極右派活動家製作了超過萬則針對美國中西部黑人選民的欺騙性選舉自動語音電話，AI 可以更大規模地複製這樣的活動，提供更加個人化的訊息，模仿當選領袖或網紅、關鍵意見領袖 KOL 等的聲音音頻可以向特定選民群體提供關於民意調查及投票的誤導性訊息，或者造成混亂。
