在古代的猶太教傳說中，有一種泥人叫哥力姆，現在的奇幻也會出現，叫像魔像或者巨人。他是人類用泥土創造出來的人形物，能夠依照人類的命令去行動，可是他其實不會思考，只能從字面上執行人類的行為，因為它沒有人類的責任感，思考與感情，所以最後總是構成破壞甚至災難。用今天的說法，魔像就是一種人工智能，所以人工智能會導致的問題，古人早就想像過了。
所以在五十年代電腦的興起，人們很快就聯想到要創造思考像人類的機器，以及哥力姆巨人。當年的科幻小說家，就開始想像人工智能會怎樣害死人類。
例如有一本小說叫無聲狂嘯，講的就是中國美國俄羅斯三大國創造的軍事電腦，有一天控制了人類所有武器之後，就發動戰爭消滅了人類，剩下幾個死剩種給他們發洩。後來的天網以及 Matrix 大家都熟悉。反正都是電腦產生像感情的東西之後，就對人類不爽，拿到核彈之後就要把人類送練北斗神拳。因此才會有個叫艾西莫夫的傢伙，創立了機械人三定律，要在程式裡寫死人工智能不能傷害人類反抗人類甚麼的。這麼多年來，科幻小說作家相信人工智能對人類的危害，一直都是覺得他們會興兵作亂。所以想來想去，都是禁止他們碰核彈，或者禁止他們對人類產生敵意之類的事情。直至今天我們活在雖然沒有飛天車以及星際旅行，但人工智能終於普及的未來世界，才知道人工智能對人類的危害並不是指他們會跟我們打仗。
而是會「毫無惡意地」誤導我們，製造傻瓜。
前陣子網絡上有一個在政治上經常拿來用的截圖，那就是芙莉蓮裡面講的「魔族學習人類的語言是為了欺騙」，通常會用到這一句話，都是臺灣人拿來佐證提防北京政府與其追隨者的。不過我每次看到這一張圖，我第一個想到的卻不是共產黨，而是生成式人工智能。
因為這句話是非常精確的描述現在流行的生成式人工智能的，即各種能跟你對話，能被問問題，生出圖案或影片的人工智能。他並沒有真的能像人類般思考，不過卻能夠模仿人類說話與畫圖，模仿一切人類能接觸的資訊，從文字，圖案，影片以及更多，就是了欺騙人類，欺騙人類覺得自己所看到的是真的。
魔族是會說人話的怪物，說話是為了讓人類暴露弱點趁其不備襲擊；人工智能是會說人話的機器，說話是為了人類暴露無知相信他所製造的一切資訊。
結果這幾年人工智能普及，就到處都是對於人工智能創造出來的資訊無條件照單全收的人。然後你就會看到到處都是拿人工智能的答案當成事實的傢伙，他們有時會根據人工智能給的答案去做決定，拿來交功課，拿來當成寫文章做影片的根據，拿去解答網上問題的答案，甚至跟著人工智能給的指示去吃藥。
有一些則拿人工智能生成的東西去回應別人，對於熱愛抬槓或者洗版的人來說，他們只要把文章 copy & paste 之後再叫人工智能反駁，就能完全不經大腦地去競逐當最後一個回應者。而我也不僅一次遇過信誓旦旦說人工智能比人類可信的人。本來就懶於分辨事情真偽的大眾，對著說話總是頭頭是道的人工智能，是完全沒有抵抗力。
人工智能就像魔偶一樣，你叫他答問題，他就真的只是「答問題」，為了答問題，他可以沒有脈絡不合邏輯前後矛盾，然後再憑空像「民明書房」一樣創造一些不存在但看起來很像真的證據。但偏偏它就像魔族一樣，是模仿人類語言去迷惑人類的專家，特別是順著你的說法去講話，別的不會就是最會就是妖言惑眾。人工智能最強的地方是完全沒有感情，在沒有責任感也沒有羞恥心下，他可以無恥的創造偽證，但同時又是一個厲害的說書人。
而大眾平時也不太重視真偽，喜歡道聽途說，很容易就會相信假新聞或謠言之類的東西。而人工智能就是假新聞製造機，他能以很低的成本，短時間製造大量不辨真偽的人喜聞樂見的文字與圖片，結果人工智能一興起，網絡世界就被這些廉價大量生產的垃圾所淹沒，人們先誤導自己，再跑去拿被誤導的資訊去誤導別人。而最要命的是一堆網紅為了做知識型節目，偷懶用人工智能生成的東西，結果可想而知的。
早晚，甚至已經發生的是，拿人工智能生成的東西寫書，然後透過學術系統成為可信的著作。然後再被人在學術上引用，網絡上引用，結果弄假成真的假學術。早在以前維基百科就有一堆寫得頭頭是道的歷史條目，被揭發基本就是憑空創作的架空歷史，例如很出名的「卡申銀礦」事件。而前陣子連 ubisoft 都中伏，相信了彌助是武士，在近年大學系統過度擴張之下，納入了很多學術能力與品德都低落，對於真理毫無興趣與尊重的論文勞工取得了博士。這些人在人工智能的幫助下，大概已經在製造大量有權威背書的垃圾去污染人類的知識體系。
人類本來就盲信學術權威，而學術權威本身已多踐踏真理的腐敗之徒，人工智能會大幅加速這個腐敗的進度。
而這些基本上是不能阻擋的，你去叫大家重視真理基本上是廢話，在沒有人工智能的時代大家都沒重視過真理，人工智能只是令以工業化的規模去幾何擴張。
其實前陣子 UCLA 畢業禮，有個學生公然的承認他是用 ChatGPT 去答考題，並全球直播，大家都批評他很無恥。但我認為這種無恥是好事，他就是很快的告訴我們，現在我們的學術體系對於這種毫無責任的資訊根本沒有防禦力，過去用八股文去過濾學生的技倆已經失效，一堆能力不足的學生可以用人工智能輕易寫出八股文，然後學術系統會給予他不該擁有的權威與認證。這很明顯是個問題，最終必然會瓦解各種信任。
面對人工智能的時代，我們的體系急需改造，你想像一下將來幫你建屋的工程師，幫你醫病的醫護，證書都是靠人工智能混過的，魚目混珠滲入了各種專業，你會感到安心嗎？
