自從有了人工智能之後,我常常在臉書下,滾到一些聲稱講歷史的專頁。通常上面講的是歷史秘聞,很常見的就是民國的故事,甚麼蔣介石在西安事變中死了一堆親戚所以跟張學良結下大樑子之類,又或者甚麼臺灣人去日本被歧視之類,看起來好像是真的。因為故事非常的奇聞,又煽情,所以通常很多流量與分享。
但沒有任何引據,你在外面也找不到任何史料這樣說,然後留言區會有人說長知識了,原來有這樣的故事。再有另外一些人說,通篇文章不會是憑空創作的吧?因為有些部份跟史料有衝突,或者跟現實有衝突。
例如我就看過一篇文章,寫一個故事,一個自稱臺灣人的說去日本申請簽證被留難甚麼的。寫得非常煽情。但是底下就有人指出,臺灣人去日本不是免簽嗎?大陸人去日本才需要申請簽證吧?那真相就出來了,其實那是一篇在大陸社交媒體流傳的故事,大概就是有人轉去臺灣,為了打臺灣的市場,就開人工智能,叫他把同樣的故事改用臺灣用語,改寫成臺灣的繁體中文版吸流量。但人工智能在改寫故事時,沒有考慮到兩岸的體制與處境的分別,所以一講簽證就破功了。至於上面那些虛構的民國故事,大概都是這樣寫出來的,大概就是某個大陸的故事被人拿人工智能換皮,為了臺灣改寫一個民國版,甚至為香港改寫一個香港版。
而偏偏人工智能別的不會,就有本事把虛構的東西掰到很像真的,甚至連 reference 與 ISBN 都給你掰出來。這招對人類就十分有效,人類才驚覺一件事,原來大部份人若不是自己懂那件事的話,就很容易被人工智能虛構出來的東西唬倒。
畢竟不是每人都去過日本,沒去過甚至沒出過國的人,就未必分辨出這個謊言了;同樣地,不是對民初歷史很有興趣的人,看到甚麼蔣介石在西安事變死了七個親戚,也很難看穿這根本就是掰出來的。就算對民國歷史很有興趣,心裡都會想想,我沒聽過可能是我孤陋寡聞吧?畢竟在社交媒體上滑到一篇文章,就跑去圖書館驗證真偽這件事,真的不太實際,所以我在想,人類想要對抗人工智能製造出來的假資訊,可能遠比我們想的困難。
今天你中國歷史騙不了我,明天人工智能生個講化學的,講物理的,講捷克歷史的,總有一些東西我是不熟的。到時被人工智能插了一刀也不知道。更不要說越來越多大學裡的人,拿人工智能去寫論文交功課,可想而知,人工智能製造的假資料,會怎樣污染學術與知識世界,未來會越來越多虛構的幻覺走進了我們的知識庫中。
畢竟我們都知道,在人工智能之前,維基百科已經有「假條目」問題,就是有人不知道吃錯了甚麼藥,無端虛構一個歷史事件,還要把內容寫得非常細緻,連地圖都幫你畫了,創作一個不真實歷史出來,就是有名的「卡申銀礦」事件。有參考資料,有地圖,還有那麼詳盡分門別類的文字的條目,裡面的東西竟然全部都是假的,你會心想為何會有人這麼無聊,偏偏就是有。
然而,當年那傢伙虛構這段歷史時,還得自己做功課,用六年時間才把整個故事掰完,今天用人工智能要掰故事,可是簡單快捷多了。我就在想如果有人開始用人工智能去製造大量假歷史,要怎樣防範呢?我真的是想不到。
現在隨便一個人想要惡作劇,人工智能都能把東西寫得頭頭是道,抱著惡意去這樣做的話,把內容放到像維基百科這種網站,或者弄成知識型影片的話,破壞力可能比想像中的驚人。目前 youtube 已經有很多虛構當事實的頻道主了,人工智能肯定令他們如虎添翼,想想就恐怖。
