2022-07-17|閱讀時間 ‧ 約 6 分鐘

閱讀筆記《深度造假：比真實還真的AI合成技術，如何奪走人類的判斷力，釀成資訊末日危機？》

★現在，只要有心和一台可上網的電腦，隨時隨地都能「弄假成真」：把甲的臉接上乙的身體，再搭配丙的嘴型和動作，自然說出甲乙丙都沒說過的話！深度造假不只能換掉人的外表，更在無形中改造你的大腦！人人都可能成為詐騙、抹黑、攻擊的受害者，加害者還能將罪行統統推給AI… 然而，深度造假並不恐怖，恐怖的是我們毫無準備！

●所謂的「深度造假」（deepfake），乃是人工智慧（Artificial Intelligence，簡稱AI）的產物。歡迎各位來到未來，在這個時代，人工智慧的力量已經能讓任何人說出他們不曾說的話、做出他們不曾做過的舉動。每個人都可能成為目標，也都可能否認一切。在失能的資訊生態系統（information ecosystem，特徵就是錯誤資訊〔misinformation〕和不實資訊〔disinformation〕）之中，人工智慧和深度造假就是最新的威脅，而且持續不斷升級。

●深度造假是一種「合成媒體」（synthetic media，又譯「合成內容」），代表媒體內容（包括圖片、影像和聲音）受到操控，或完全由人工智慧創造。AI技術讓媒體控制變得更輕鬆，也更容易了（例如Photoshop或Instagram的濾鏡功能）。

●「資訊末日」一詞由美國科技專家阿維夫．歐維亞（Aviv Ovadya）於二○一六年提出。當時他用這個詞彙，警告世人留意惡質資訊已充斥整個社會，同時思忖有沒有一種「臨界指標」（critical threshold），一旦達標，社會將再也無法負荷。歐維亞所指的「資訊末日」，並沒有單一明確的定義，而是涵蓋不同觀念而成。而正如他所正名，資訊末日並非靜態的「事物」或單一事件，而是人類社會持續演變的狀態，我們每個人涉入的程度都將愈來愈深。

●聲音詐騙是全世界騙徒都在使用的強大手段，AI則是共犯。藉由深度造假的語音軟體，AI相當善於生成人聲。請參考YouTube網站的「語音合成」（Vocal Synthesis，簡稱VS）頻道。該頻道由一位匿名YouTube用戶在二○一九年八月成立後，迅速累積了近七百萬瀏覽次數。頻道內容全是名人及政治人物的合成語音，使用Google開發的開源AI軟體Tacotron 2製作。語音合成頻道的目的顯然是娛樂大眾而非造成傷害，但頻道內容盜用了他人的聲音─包括讓已死的人「復活」──隨即也產生了道德和法律上的疑慮。

●真正的問題在於：在不久的將來，我們又該如何相信電子媒體傳達的一切訊息？各位必須認清現實，你們的聲音、你們的肖像權都面臨很高的風險。對於將我們彼此串聯，讓我們保持安定的共識，還有什麼比這更嚴峻的挑戰？我們必須盡快訴諸合法的管道，阻止深度造假的製造者。

●根據《華盛頓郵報》建立的資料庫，直到二○二○年一月,川普在過去三年已公然散播超過一萬八千則錯誤及誤導資訊。換言之，美國總統平均每天就有十五則不實言論，包括對美國政治制度、亦即美國民主基石的打擊—他的目標可能是情報單位、媒體，甚至政府本身。除了謊話連篇，川普也善於利用「騙徒紅利」(liar's dividend)。「騙徒紅利」的概念是，騙徒把自己不喜歡的事物貼上「騙人」的標籤，即使有違事實亦然。在資訊末日下，「騙徒紅利」逐漸成為強大的工具;川普就很常利用這個概念。例如，他每天都會用「假新聞」反駁任何他不喜歡的消息，甚至是影像證據。

●資訊末日不只肆虐西方世界，也影響了「非西方國家」 - 我用這個名詞泛指拉丁美洲、亞洲和非洲。任何政治制度或國家都無法免疫。早在西方國家察覺二○一六年美國總統大選的問題之前，錯誤和不實資訊已開始造成混亂，甚至在菲律賓、緬甸和印度引發種族暴力事件。在西方世界之外，某些國家在面臨資訊末日危機時顯得更為脆弱。在極權、流氓國家及不穩定的政權統治下，惡意的行動者就能利用資訊末日的混亂，並全身而退。西方民主國家至少還有法治、自由媒體及民主等早已確立的制度作為防線(即使逐漸變得脆弱 )。然而，逐漸腐化的資訊生態系統，在缺乏防衛機制或相當匱乏的國家，可能造成更無法挽回的後果。

●台灣事實查核中心 https://tfc-taiwan.org.tw/

●LINE訊息查證 https://fact-checker.line.me/

~政治評論員、作家和顧問/妮娜．敘克(Nina Schick) ~《深度造假：比真實還真的AI合成技術，如何奪走人類的判斷力，釀成資訊末日危機？》 ~《Deep Fakes and the Infocalypse: What You Urgently Need To Know》

#深度造假 #偶希都理 #偶希都理閱讀筆記 #閱讀筆記 #Reading

【博客來購買《深度造假》】↓↓ https://ibanana.biz/2xu0z

【金石堂購買《深度造假》】↓↓ https://easyfun.biz/2wd16

【偶希都理】名稱取自日文「おひとり」的中文音譯，意指一個人。分享閱讀筆記／日文教學／電影筆記／環遊世界旅遊，歡迎訂閱分享，一起探索生活。【偶希都理閱讀筆記~方格子】 https://vocus.cc/ohitori_book/home 【偶希都理~痞客邦】 https://singletravelersu.pixnet.net/blog 【偶希都理~Matters】 https://auth.matters.news/@scart1020

【作者～廖慧淑（Su）】譯者／作家／旅人，日文翻譯、口譯及寫作經歷超過20年。透過自遊與工作之便環遊世界三大洋五大洲，總計造訪過40國ｎ座城市。 #偶希都理 #廖慧淑

分享至

成為作者繼續創作的動力吧！

日文教學

追蹤

從 Google News 追蹤更多 vocus 的最新精選內容

作者的相關文章

閱讀筆記《洗腦的歷史：禍害世界的極端思想控制術大解析》

偶希都理的其他內容

你可能也想看

發表回應

成為會員後即可發表留言

閱讀筆記《深度造假：比真實還真的AI合成技術，如何奪走人類的判斷力，釀成資訊末日危機？》

作者的相關文章

偶希都理 的其他內容

你可能也想看

發表回應

偶希都理的其他內容