千萬別相信ChatGPT說的話！ AI自修課（四）查證式思維
大家好！這裡是機器人來了，一個專注於人工智能領域的創作者。
今天我要分享一個大秘密，一個目前沒有人注意到的大秘密：千萬不要AI說的話。
這是怎麼回事呢？其實呀，目前幾乎所有的人工智能，都有一個通病，就是假消息，在他們的訓練內容裡面，有非常多似是而非的內容，而他們卻無法好好的搞清楚其中的真實性，更糟糕的是，他們會隨意拼接，瞎掰出一個假消息來欺騙用戶！
甚至，你嘗試轉換答案，還會得到一大堆不同的內容，根本不符合事實邏輯。
這可不是我在亂說呀，以下提供幾個案例來證明：
一 . 歷史紀錄關係混亂，反覆混淆
漢武帝這位超級知名的中國歷史人物，而ChatGPT 的錯誤回答：
漢武帝成劉邦之子
漢武帝在他的資料裡面居然還成為了劉邦之子
反覆更換，又持續錯誤
天吶，文景之治這麼基礎的東西都不知道？,
在這條刷新的回答，他不但更換了之前的說法，還把漢武帝的父親漢景帝，漢武帝的爺爺漢文帝的關係都給搞錯了。
運動項目
Claude 2的錯誤答案
正確答案：
真實數據與回答有很明顯的差距
(Claude 2 自稱數據有蒐集到2023年，但是這些細節都是錯誤的）
查證思維
看到這裡，你應該明白目前AI的局限性與錯誤的吧！
以後，如果你真的想要問AI問題，請一定要有查證思維，絕對不可以全盤接受他說的內容哦！
結語
希望人工智能可以儘速克服這個問題，不要再誤人子弟，也希望更多人能看到這個文章，在使用過程培養查證思維，不要被錯誤的假消息誤導。
留言0
查看全部
你可能也想看
Google News 追蹤
嘿，大家新年快樂~ 新年大家都在做什麼呢？
跨年夜的我趕工製作某個外包設計案，在工作告一段落時趕上倒數。
然後和兩個小孩過了一個忙亂的元旦。在深夜時刻，看到朋友傳來的解籤網站，興致勃勃熬夜體驗了一下，覺得非常好玩，或許有人玩過了，但還是想寫上來分享紀錄一下~
文/楊宏文(Hubert)
曾經協助Google打造搜尋及人工智慧業務團隊的約翰．詹南德雷亞 (John Giannandrea) 表示：與其擔心AI淘汰人類，不如先擔心有偏見的AI帶來的社會隱憂。
那麼，什麼是有偏見的AI呢？
請你先打開ChatGPT, Gemini, Copilot或Cl
因為網路上充斥著 是是而非的資訊，公說公有理 婆說婆有理，我發現我的價值觀開始有點混淆，心中有許多問題 不知道真正的答案是甚麼？突然 想到最近的AI新科技-ChatGPT 或許可以解答我內心的困惑。所以我試著與ChatGPT進行對話，沒想到ChatGPT 的回覆 完全可以解答我心中的疑惑。
我問AI，結果得到的兩個完全相反的結果，老師在教學影片中說的是Claude的版本....
在AI時代自學，除了要懂得下咒語（prompt，網路上到處在教如何下正確的prompt，使AI更好用），還是要有一定的基礎能力（例如查核能力），不要太相信AI給的答案，多問幾家總是好的。
今天說的是一種稱為「自動化偏誤」(automation bias)的認知偏誤。人們常會不加思索地認為由自動化決策系統，例如現在常用的ChatGPT，會有程式語言賦予的理性與客觀，比較能避免人類常見的各種偏見。
〉〉清華大學AI融入人文社會領域
昨天看到朋友轉分享一則新聞《清大結合生成式AI融入人社領域教學 協助分析史料助學習》，從文中可以看出，老師把ChatGPT當作一項工作，協助文言文斷句、編劇...等，課程有兩個重點，「如何問問題？」，第二則是「如何甄別AI給的答案？」
李卓穎院長說，研究歷史的學
近一年全球生成式AI浪潮的引領者、「ChatGPT之父」阿特曼，近日遭OpenAI無預警解雇，他做錯了什麼？從這場OpenAI之亂，又揭露了當前AI發展的什麼問題？
嘿，大家新年快樂~ 新年大家都在做什麼呢？
跨年夜的我趕工製作某個外包設計案，在工作告一段落時趕上倒數。
然後和兩個小孩過了一個忙亂的元旦。在深夜時刻，看到朋友傳來的解籤網站，興致勃勃熬夜體驗了一下，覺得非常好玩，或許有人玩過了，但還是想寫上來分享紀錄一下~
文/楊宏文(Hubert)
曾經協助Google打造搜尋及人工智慧業務團隊的約翰．詹南德雷亞 (John Giannandrea) 表示：與其擔心AI淘汰人類，不如先擔心有偏見的AI帶來的社會隱憂。
那麼，什麼是有偏見的AI呢？
請你先打開ChatGPT, Gemini, Copilot或Cl
因為網路上充斥著 是是而非的資訊，公說公有理 婆說婆有理，我發現我的價值觀開始有點混淆，心中有許多問題 不知道真正的答案是甚麼？突然 想到最近的AI新科技-ChatGPT 或許可以解答我內心的困惑。所以我試著與ChatGPT進行對話，沒想到ChatGPT 的回覆 完全可以解答我心中的疑惑。
我問AI，結果得到的兩個完全相反的結果，老師在教學影片中說的是Claude的版本....
在AI時代自學，除了要懂得下咒語（prompt，網路上到處在教如何下正確的prompt，使AI更好用），還是要有一定的基礎能力（例如查核能力），不要太相信AI給的答案，多問幾家總是好的。
今天說的是一種稱為「自動化偏誤」(automation bias)的認知偏誤。人們常會不加思索地認為由自動化決策系統，例如現在常用的ChatGPT，會有程式語言賦予的理性與客觀，比較能避免人類常見的各種偏見。
〉〉清華大學AI融入人文社會領域
昨天看到朋友轉分享一則新聞《清大結合生成式AI融入人社領域教學 協助分析史料助學習》，從文中可以看出，老師把ChatGPT當作一項工作，協助文言文斷句、編劇...等，課程有兩個重點，「如何問問題？」，第二則是「如何甄別AI給的答案？」
李卓穎院長說，研究歷史的學
近一年全球生成式AI浪潮的引領者、「ChatGPT之父」阿特曼，近日遭OpenAI無預警解雇，他做錯了什麼？從這場OpenAI之亂，又揭露了當前AI發展的什麼問題？