方格精選

媒體觀察|眼見不一定為憑,換臉應用(deepfake)或恐影響2020總統大選和你的生活

更新於 發佈於 閱讀時間約 7 分鐘
souces: BBC news

souces: BBC news

眾所皆知地,近年來臉書(Facebook)因為大大小小隱私權問題受到許多挑戰,而原先無論在任何場合、時間總是不斷強調我們絕對注重隱私權的辦人馬克臉書創祖克伯(Mark Zuckerberg)竟然自己承認販售用戶資訊、個資是筆划算的生意?!

究竟是發生了什麼事情呢?

這是一篇四天前的新聞,事實上這支影片並非由祖克伯本人所發布的而是由藝術家透過人工智慧(AI)創作的藝術作品,作品目前被放置於英國雪菲爾德(Sheffield),而這個16秒的片段則是被上傳至Bill Poster Uk的Instagram。這系列影片被創作出來的原因是藝術家認為臉書對抗假新聞的策略一點用都沒有,因此製作了這樣的影片去挑戰臉書的測驗機制,結果呢?這支影片打敗了臉書的檢測機制,成功在網路上流傳。

這支影片上線後,引起了許多國外媒體、網站的關注及回應,例如《Vice》認為:「若你以靜音觀看,這支影片非常的真實」。

問題來了,祖克伯本人並沒有製作這支影片,那究竟是怎麼來的?


Deepfake是一種結合了人工智慧的圖像合成技術


Sources:Andriano.cz/Shutterstock

Sources:Andriano.cz/Shutterstock

這支影片利用了一種名為換臉(Deepfake)的技術,而換臉應用(Deepfake)其實是機器的深度學習(Deep Learning)加上仿冒(fake)的混成詞。傳統上,我們如果要合成某個人的照片主要還是以平面為主或透過3D算圖的方式重現等,而該技術則是透過人工智慧的深度學習,輸入大量相關素材進行模擬,最後將演算及模擬的結果呈現並套用至目標上,就會得到我們看到得那支影片。

用上述的例子而言,要製作出那支影片,大略經過以下的流程:

  1. 大量蒐集祖克伯的相關素材並輸入人工智慧進行學習
  2. 學習後將想要的畫面套用至影片上
  3. 透過AI模擬祖克伯的聲音,不足之處以人工配音

目前,換臉最常見的應用是虛假的名人性愛影片和報復性色情媒體,看起來這是個令人害怕的黑科技,但其實它也是有其他有趣的使用方式,如讓蒙娜麗莎動起來

source:BBC news

source:BBC news

透過換臉應用的技術,成功地讓平面的蒙娜麗莎能夠動頭、動眼睛甚至是動嘴巴都是能夠做到的。

對換臉應用有興趣的,我將說明的文章放在這,歡迎自行閱讀。


換臉應用(Deepfake)對未來會有什麼影響?

事實上,早在2016年時,達特茅斯學院的鑑識技術專家Hany Farid告訴美聯社:

我估計在二年後即將到來的美國期中選舉和全國大選上,就可以看到這些偽造的影片內容。而因為這項技術是沒有國界之分的,所以這種影響將會波及全世界。

一、強化假新聞的擴散威力

圖片來源:Google

圖片來源:Google

在社群媒體上流傳著一段話是:

圖片會比文章吸睛,而會動的影片又比圖片佔有優勢

當然這不是絕對,但在大部分的情況之下會成立。

在2016年時,光以社群媒體的圖文及自製影片所集合成的假新聞,都足以撼動當時總統大選的結果,那如果今天把候選人本人仿進去影片內,這個影響範圍及效力,可想而知。

舉例來說,美國委員會主席、眾議員Adam Schiff (D-CA) 認為:

就算該支影片最後被證實為假新聞,但那種負面印象會長存在觀眾的心中

外交政策研究所研究員Clint Watts表示:

當大環境充斥著假新聞,使得信息消費者不知道該相信什麽,他們不能從虛構中辨別事實,那麽他們要麽相信一切,要麽什麽都不相信。如果他們什麽都不相信,那就會導致長期的冷漠,這對美國是有害的。

雖然目前這個技術尚未完全成熟,也仍需要相當地製作時間,但在未來製作素材的是AI,只要有具訓練AI背景的人員,要快速且大量地生產這樣的素材,絕非難事。


二、不只有影像,聲音也可以被模仿

加拿大創業公司 Dessa 近日發布了一項新研究:利用其最新開發的 RealTalk 系統,僅利用文本輸入即可生成完美逼近真人的聲音。

Source: Dessa’s Youtube

Source: Dessa’s Youtube

這支影片是Dessa的Demo,內容是美國著名脫口秀喜劇演員、主持人 Joe Rogan 的聲音,有興趣的人可以點進去這邊

對於深度學習的AI來說,只要有越多相關的素材,海量的資訊,所得到的結果就會越精準。通常能夠角逐總統大選的候選人,除了平常對外的媒體聯訪、個人專訪,也需要出席許多造勢晚會、活動場合拉攏支持者,要取得這些資訊,在現今的媒體環境來說,一點都不困難。


三、現今媒體趨勢,降低了我們的驗證能力

首先,以大環境面來看,我們每天接受的資訊太過大量,快節奏的生活,要我們一一審視本身就是一件難事,另外,同溫層的影響讓我們主要生活在習慣的資訊圈內,例如:粉絲專頁、社團等。

在社群媒體較為不盛行的地區,除了靠著主流媒體的資訊傳送,街坊鄰里及親朋好友之間的口耳相傳也是影響甚大的傳播途徑,在這樣的過程當中,除了口耳相傳本來就有的誤差,只要有任何一個極小的環節,被埋入了相關的資訊,也會產生極為巨大的效應。

圖片來源:Shutterstock

圖片來源:Shutterstock

最後,目前使用媒體的主流是手機,雖然手機的螢幕一代比一代大,畫面也越來越精細,但比起傳統的電視螢幕、電腦螢幕仍是相對小了許多。過往我們在檢查某個圖片是否有被後製過會有一些判斷方式,最陽春的檢查方法是放大並詳細檢驗,因為只要有一點瑕疵,放大後也容易看出破綻。然而,越來越多人使用手機作為接受資訊的狀況之下,對於真假影片的判斷能力也會隨之下降,畢竟當畫質越低、螢幕比起PC或大螢幕載體,這些破綻越容易被隱藏。


結語

要對抗換臉技術,我認為它的難度絕對是可以媲美完全消除假新聞,若要能完全解決這些問題,最終仍是回到信息消費者的身上,解決方法目前也都是那101招:

(1)選擇優質媒體

(2)具有媒體素養

(3)學習驗證資料的能力

如果不能妥善解決,未來可能我們哪天會看到一支連自己都沒印象拍過的影片,而且內容還講著跟自己立場、想法完全不同的荒謬言論。

留言
avatar-img
留言分享你的想法!
avatar-img
Yo Chen的沙龍
101會員
79內容數
媒體觀察筆記Media Note 是一系列以觀察現今媒體行銷、網路生態的系列專題。 第一個主題就是被譽為未來十年商業模式的訂閱經濟。訂閱經濟其實不是一種全新的商業模式,而是重新以不同的方式被呈現出來,從刮鬍刀、地板到最常見的影音、娛樂,這個專欄個案探討、現況分析等方式進行討論。
Yo Chen的沙龍的其他內容
2022/04/23
有在關注投資訊息的朋友,應該知道 4/21 晚上發生了一件讓人記憶深刻的事情— 知名影音串流平台 Neflix 網飛的股價在一個晚上暴跌了 36% 。雖然美股近期相對疲弱,但一天能殺成這樣,應該能用血流成河來形容。Netflix 發生什麼事情、是誰把 Netflix 訂閱的人口弄不見了?
Thumbnail
2022/04/23
有在關注投資訊息的朋友,應該知道 4/21 晚上發生了一件讓人記憶深刻的事情— 知名影音串流平台 Neflix 網飛的股價在一個晚上暴跌了 36% 。雖然美股近期相對疲弱,但一天能殺成這樣,應該能用血流成河來形容。Netflix 發生什麼事情、是誰把 Netflix 訂閱的人口弄不見了?
Thumbnail
2022/03/28
隨著Youtube內容大量成長,各式主題和種類的題材也不斷出現,其中有一類型的內容引起我的注意—音樂影片。你可能會好奇MV有什麼值得注意的?這不是出現很久了嗎?歌手明星現在發數位專輯的多如繁星,哪裡不一樣?確實,歌手明星發MV不稀奇,但如果是大家口中的KOL、網紅或是Youtuber,甚至是插畫家
Thumbnail
2022/03/28
隨著Youtube內容大量成長,各式主題和種類的題材也不斷出現,其中有一類型的內容引起我的注意—音樂影片。你可能會好奇MV有什麼值得注意的?這不是出現很久了嗎?歌手明星現在發數位專輯的多如繁星,哪裡不一樣?確實,歌手明星發MV不稀奇,但如果是大家口中的KOL、網紅或是Youtuber,甚至是插畫家
Thumbnail
2021/12/04
2021年熱門影片榜單出爐,不負眾望的榜單上一定有那台車車!從這份榜單上,或多或少也能窺見2022年未來的發展,究竟Youtube的內容會怎麼走下去呢?
Thumbnail
2021/12/04
2021年熱門影片榜單出爐,不負眾望的榜單上一定有那台車車!從這份榜單上,或多或少也能窺見2022年未來的發展,究竟Youtube的內容會怎麼走下去呢?
Thumbnail
看更多
你可能也想看
Thumbnail
「欸!這是在哪裡買的?求連結 🥺」 誰叫你太有品味,一發就讓大家跟著剁手手? 讓你回購再回購的生活好物,是時候該介紹出場了吧! 「開箱你的美好生活」現正召喚各路好物的開箱使者 🤩
Thumbnail
「欸!這是在哪裡買的?求連結 🥺」 誰叫你太有品味,一發就讓大家跟著剁手手? 讓你回購再回購的生活好物,是時候該介紹出場了吧! 「開箱你的美好生活」現正召喚各路好物的開箱使者 🤩
Thumbnail
介紹朋友新開的蝦皮選物店『10樓2選物店』,並分享方格子與蝦皮合作的分潤計畫,註冊流程簡單,0成本、無綁約,推薦給想增加收入的讀者。
Thumbnail
介紹朋友新開的蝦皮選物店『10樓2選物店』,並分享方格子與蝦皮合作的分潤計畫,註冊流程簡單,0成本、無綁約,推薦給想增加收入的讀者。
Thumbnail
近期在GitHub排行榜上竄紅的Deep Live Cam,憑藉其強大的AI換臉直播功能,引爆了科技圈的熱烈討論。這款軟體只需一張照片,就能讓你在線上會議、開實況、直播帶貨時,以任何人的面孔示人,為直播市場投下了一顆震撼彈。 什麼是 Deep Live Cam? 簡單來說,Deep Live C
Thumbnail
近期在GitHub排行榜上竄紅的Deep Live Cam,憑藉其強大的AI換臉直播功能,引爆了科技圈的熱烈討論。這款軟體只需一張照片,就能讓你在線上會議、開實況、直播帶貨時,以任何人的面孔示人,為直播市場投下了一顆震撼彈。 什麼是 Deep Live Cam? 簡單來說,Deep Live C
Thumbnail
OpenAI近期公開了名為「Voice Engine(語音引擎)」的AI模型,使用者只要輸入文字與15秒的音訊樣本,該模型便會自動生成與原說話者相似的語音訊息。AI擬聲,也就是大家常說的聲音克隆(Voice Cloning),這項技術發展迅速,讓我們可以輕易複製一個人的聲音,產生合成語音
Thumbnail
OpenAI近期公開了名為「Voice Engine(語音引擎)」的AI模型,使用者只要輸入文字與15秒的音訊樣本,該模型便會自動生成與原說話者相似的語音訊息。AI擬聲,也就是大家常說的聲音克隆(Voice Cloning),這項技術發展迅速,讓我們可以輕易複製一個人的聲音,產生合成語音
Thumbnail
現AI時代我們常見的生成影像是如何製作出來的,或許你已經開始熟悉AI“假臉”的風格。但由于現在網路上大量流傳的多數是以DALL-E或是Stable Diffiusion+幾個特定的LoRA所生成的結果。以至於人們越來越有識別真假照片的能力。但或許你不知道的是,早在幾年前純粹用GAN生成技術所產出的人
Thumbnail
現AI時代我們常見的生成影像是如何製作出來的,或許你已經開始熟悉AI“假臉”的風格。但由于現在網路上大量流傳的多數是以DALL-E或是Stable Diffiusion+幾個特定的LoRA所生成的結果。以至於人們越來越有識別真假照片的能力。但或許你不知道的是,早在幾年前純粹用GAN生成技術所產出的人
Thumbnail
由美國人工智慧研究實驗室之一的OpenAI(開放人工智慧研究中心)於去年(2022年)11月推出的ChatGPT 在全球颳起一陣旋風。ChatGPT(Chat Generative Pre-trained Transformer),全稱「聊天生成預訓練轉換器」,是OpenAI開發的人工智慧聊天機器人
Thumbnail
由美國人工智慧研究實驗室之一的OpenAI(開放人工智慧研究中心)於去年(2022年)11月推出的ChatGPT 在全球颳起一陣旋風。ChatGPT(Chat Generative Pre-trained Transformer),全稱「聊天生成預訓練轉換器」,是OpenAI開發的人工智慧聊天機器人
Thumbnail
製作提案、報告,或文章、影片新媒體創作的你, 是否覺得找圖片素材曠日廢時,又常不符需求? 這支影片會實測10種AI繪圖網站,幫你速成插圖素材, 並加碼分享排版技巧,應用在內容創作與提案簡報中。 你的原因又是什麼呢? 一起留言討論吧! 待會馬上揭曉答案。 現在就來揭曉問題答案, 就是A,不過如果你猜B
Thumbnail
製作提案、報告,或文章、影片新媒體創作的你, 是否覺得找圖片素材曠日廢時,又常不符需求? 這支影片會實測10種AI繪圖網站,幫你速成插圖素材, 並加碼分享排版技巧,應用在內容創作與提案簡報中。 你的原因又是什麼呢? 一起留言討論吧! 待會馬上揭曉答案。 現在就來揭曉問題答案, 就是A,不過如果你猜B
Thumbnail
最近出現很多“特製”的圖像或照片登上了媒體 極致的用上AI人工智慧的繪圖功能 有兩幀照片:一是將教宗合成白羽絨衣品牌代言人 及迪麗熱巴劇中吻戲被“深偽”成網紅接吻 我高訴老婆 從此再也沒有真相了
Thumbnail
最近出現很多“特製”的圖像或照片登上了媒體 極致的用上AI人工智慧的繪圖功能 有兩幀照片:一是將教宗合成白羽絨衣品牌代言人 及迪麗熱巴劇中吻戲被“深偽”成網紅接吻 我高訴老婆 從此再也沒有真相了
Thumbnail
有沒有人跟我一樣沒事看臉書一直被AI創作能力給嚇傻? 以下貼三個連結,讓大家看看這趨勢是否在教育、擇偶、投資等方面有不同思考 1.宥勝要回歸家庭 2.真人與AI生成圖片 3.2023十大預測
Thumbnail
有沒有人跟我一樣沒事看臉書一直被AI創作能力給嚇傻? 以下貼三個連結,讓大家看看這趨勢是否在教育、擇偶、投資等方面有不同思考 1.宥勝要回歸家庭 2.真人與AI生成圖片 3.2023十大預測
Thumbnail
     這週老師跟我們介紹了deepfake 這個換臉的AI技術,但是是教我們用一個比較簡單的方式來完成,只要找到Fake app ,之後再去找你想要更換的一段影片,把影片分解成照片,之後隨便找分解出來的照片一張更改再套用全部,完成後就可以放到app裡等他運算完成輸出就可以了,deepfake這個
Thumbnail
     這週老師跟我們介紹了deepfake 這個換臉的AI技術,但是是教我們用一個比較簡單的方式來完成,只要找到Fake app ,之後再去找你想要更換的一段影片,把影片分解成照片,之後隨便找分解出來的照片一張更改再套用全部,完成後就可以放到app裡等他運算完成輸出就可以了,deepfake這個
Thumbnail
人工智慧(Artificial Intelligence)至今也有了不少發展,從AlphaGo在圍棋界的一戰成名開始,在許多領域中AI也不負眾望取得輝煌戰果,但這位超級英雄是否有黑暗邪惡的一面呢?而當這位機械英雄壞起來成為邪惡魔王,我們人類能否有足夠的力量抵抗呢?
Thumbnail
人工智慧(Artificial Intelligence)至今也有了不少發展,從AlphaGo在圍棋界的一戰成名開始,在許多領域中AI也不負眾望取得輝煌戰果,但這位超級英雄是否有黑暗邪惡的一面呢?而當這位機械英雄壞起來成為邪惡魔王,我們人類能否有足夠的力量抵抗呢?
Thumbnail
這一期我一樣只挑了三個跟我們比較有切身關係,偏應用端的主題,很巧的是這三個都是在講cGAN的。人工智慧能做的事,已經越來越開始挑戰我們的想像極限,正開始有那種「只有你想不到,沒有AI做不到」的味道出來了。希望我能一直保持寫作輸出的習慣,讓對人工智慧有興趣,但英文苦手的朋友們儘量一起跟上世界趨勢。
Thumbnail
這一期我一樣只挑了三個跟我們比較有切身關係,偏應用端的主題,很巧的是這三個都是在講cGAN的。人工智慧能做的事,已經越來越開始挑戰我們的想像極限,正開始有那種「只有你想不到,沒有AI做不到」的味道出來了。希望我能一直保持寫作輸出的習慣,讓對人工智慧有興趣,但英文苦手的朋友們儘量一起跟上世界趨勢。
追蹤感興趣的內容從 Google News 追蹤更多 vocus 的最新精選內容追蹤 Google News