AI的盲點

更新於 發佈於 閱讀時間約 3 分鐘

最近使用AI分析了一些現象,發現在整理某些實體數據上來說AI確實有用。也順便用AI造了一篇小說。但是也發現了在某些情況下AI不但難以推論一些能正常推論的東西。甚至有可能產生與實質情況差異甚大,甚至毫無邏輯與證據的結果。

以下說說幾個使AI無法產生接近更客觀或是有效資訊/統整的原因。

只要有心人在網路上散布夠多的資訊,AI也能硬說大象跟長頸鹿的混種是存在的

只要有心人在網路上散布夠多的資訊,AI也能硬說大象跟長頸鹿的混種是存在的


網路上的假資訊過多

首先假資訊是導致AI無法給出正確結果的原因之一。特別是那些基於媒體的假資訊,媒體由於親左派,他們時常會隱藏或是最低化那些必要的資訊,導致AI在蒐集「客觀」資訊時常常會產生出親媒體的結果。如果該媒體是僅有報導相關事件的媒體,或是有一百個媒體複製貼上的報導某事,都會使AI產生偏頗的結果。即便這些結果根本不符合理性甚至經驗與常識。

我曾經使用AI來查找對於中國收入中位數與平均值的比較,但是AI卻給出了中國收入中位數高於平均值的差勁數據(這是因為AI把中國官方給的數據照單全收,全不質疑的結果),直到我告訴AI其中的不合理處,AI才想辦法修正。

因此只要使用者沒有對於該事的經驗與常識,很容易受到誤導,並對該事產生具有偏差的意識,基本上AI在查找許多新或是與政治相關的資訊,還是處於類似維基百科的狀態。雖然在某些政治與意識型態因素不大的資料下,AI整理出來的資訊相較起來更有條理且更好,但那基本上不是專家們的共識就是大眾們的共識,可能並非實際上的情況。

AI過於強調官方提供的真實數據

導致無法推理出真正的問題所在,特別是對於像是中國這樣喜歡不要臉的造假的政權,散播假資訊的勢力只需要不停地拔高與真實數值的差異,直到AI通過與官方數據的嚴重不一致來質疑真實的數據,進而使官方假數據被AI誤解為真實數據。

許多乏人問津的電玩,但是官方說他全部賣完,AI就會說全部賣完,即便公眾的認知是完全沒賣沒賺

許多乏人問津的電玩,但是官方說他全部賣完,AI就會說全部賣完,即便公眾的認知是完全沒賣沒賺


這點也發生在許多官方能夠掌握「主動權」的資訊,例如公司的財報,或是官方公布的銷售額等等,配上官方事先在網路上洗資訊的方式,就能夠創造出有利但是不符合現實情況的敘事。這些都是AI的盲點,總歸來說AI的認知來自於網路,但是網路中聲量大、甚至有權威的資料來源並不等於現實中真正的情況。

根據AI指出的資訊,刺客教條暗影者能夠成功拯救育碧...

根據AI指出的資訊,刺客教條暗影者能夠成功拯救育碧...


就拿刺客教條暗影者來說,儘管在網路上受到許多抨擊,甚至連日本政府都對刺客教條的日本作抱持敵意,但是育碧仍然靠網路媒體與機器人洗聲量的方式,製造出了一個育碧的暗影者成功的假象,並通過這個網路上的假象成功騙過AI,使其輸出育碧成功的報告。這也是AI在提供現實資料時有可能產生的盲點。

同一時間,育碧的股價與網路大眾的認知顯示並非如此。

同一時間,育碧的股價與網路大眾的認知顯示並非如此。

總歸來說,AI在整理一些遠離政治與炒作的資料,或是以極廉價的成本創作一些罐頭式文字與語音來對人進行娛樂等目的還是有一定的價值。但是對於那些有心炒作與政治灌輸的人們來說,AI只不過是2020年代的維基百科-可以通過在網路過載假資訊的方式來騙人使他們以為假資訊才是真資訊。


留言
avatar-img
留言分享你的想法!
avatar-img
龜兔的沙龍
108會員
171內容數
本專題目的在於介紹德國歷史哲學家史賓格勒,在二十世紀初提出的一個歷史哲學體系,目的在於讓更多人了解更多看歷史的角度,並破除漢字圈對於啟蒙進步史觀的崇拜。
龜兔的沙龍的其他內容
2025/04/12
老歐洲的問題是,他們不相信自己的利益比意識形態更重要;並且他們也不真正的相信自己的意識形態值得捍衛。今天在貿易戰的混亂中,來稍微講講一下,我對歐洲的一些問題的看法。
Thumbnail
2025/04/12
老歐洲的問題是,他們不相信自己的利益比意識形態更重要;並且他們也不真正的相信自己的意識形態值得捍衛。今天在貿易戰的混亂中,來稍微講講一下,我對歐洲的一些問題的看法。
Thumbnail
2025/02/22
短暫的20世紀早在1990年代就結束了,現在的世界類似1790年代到1820年代的歐美,或是1910年代到1940年代的世界。 這是一個轉變的時代,舊時代的最後殘餘正在被清除,新的社會型態將在未來幾年內就固化,就像是1940年代的歐洲跟1910年歐洲的差異遠大於1820年代的歐洲跟1900年代的歐洲
Thumbnail
2025/02/22
短暫的20世紀早在1990年代就結束了,現在的世界類似1790年代到1820年代的歐美,或是1910年代到1940年代的世界。 這是一個轉變的時代,舊時代的最後殘餘正在被清除,新的社會型態將在未來幾年內就固化,就像是1940年代的歐洲跟1910年歐洲的差異遠大於1820年代的歐洲跟1900年代的歐洲
Thumbnail
2025/01/11
懷舊的現象有時會發生在,一些事情不能再有更多的突破,而所有的新發展都只會更爛的情況下。人們就會開始追求舊的事物,在電玩界這是一個正在發生的現象。
Thumbnail
2025/01/11
懷舊的現象有時會發生在,一些事情不能再有更多的突破,而所有的新發展都只會更爛的情況下。人們就會開始追求舊的事物,在電玩界這是一個正在發生的現象。
Thumbnail
看更多
你可能也想看
Thumbnail
大家好,我是一名眼科醫師,也是一位孩子的媽 身為眼科醫師的我,我知道視力發展對孩子來說有多關鍵。 每到開學季時,診間便充斥著許多憂心忡忡的家屬。近年來看診中,兒童提早近視、眼睛疲勞的案例明顯增加,除了3C使用過度,最常被忽略的,就是照明品質。 然而作為一位媽媽,孩子能在安全、舒適的環境
Thumbnail
大家好,我是一名眼科醫師,也是一位孩子的媽 身為眼科醫師的我,我知道視力發展對孩子來說有多關鍵。 每到開學季時,診間便充斥著許多憂心忡忡的家屬。近年來看診中,兒童提早近視、眼睛疲勞的案例明顯增加,除了3C使用過度,最常被忽略的,就是照明品質。 然而作為一位媽媽,孩子能在安全、舒適的環境
Thumbnail
提供一條簡單公式、一套盤點思路,幫助你快速算出去日本自助旅遊需要準備多少日幣現金!
Thumbnail
提供一條簡單公式、一套盤點思路,幫助你快速算出去日本自助旅遊需要準備多少日幣現金!
Thumbnail
AI生成圖片是一個挑戰性的任務,雖然AI能理解文字需求,但仍無法完全想像心中的理想畫面。使用中文描述AI的生成效果約為5成到6成,而加入擬人化的描述可以讓AI更好地理解需求。無論如何,AI生成圖片仍面臨許多挑戰,需要更多的研究與嘗試。
Thumbnail
AI生成圖片是一個挑戰性的任務,雖然AI能理解文字需求,但仍無法完全想像心中的理想畫面。使用中文描述AI的生成效果約為5成到6成,而加入擬人化的描述可以讓AI更好地理解需求。無論如何,AI生成圖片仍面臨許多挑戰,需要更多的研究與嘗試。
Thumbnail
AI繪圖要廣泛用於商用還有一大段路,還需要依賴人類的經驗判斷、調整,為什麼呢?
Thumbnail
AI繪圖要廣泛用於商用還有一大段路,還需要依賴人類的經驗判斷、調整,為什麼呢?
Thumbnail
這是一篇描述測試AI功能的文章,內容是一些隨心所欲的想法和想像,引導讀者思考現實世界及經歷。文章內容充滿了一些具有戲劇性和冒險色彩的詞彙和描述。
Thumbnail
這是一篇描述測試AI功能的文章,內容是一些隨心所欲的想法和想像,引導讀者思考現實世界及經歷。文章內容充滿了一些具有戲劇性和冒險色彩的詞彙和描述。
Thumbnail
本文討論了雖然人工智慧可以提供大量參考答案,但缺乏感知和直覺,無法主動發現不尋常的情況,因此仍需要人腦確認和解決問題的重要性。同時強調了發現奇怪之處、與人溝通、發現問題點、詢問AI並總結出答案的能力和實作的能力的重要性。
Thumbnail
本文討論了雖然人工智慧可以提供大量參考答案,但缺乏感知和直覺,無法主動發現不尋常的情況,因此仍需要人腦確認和解決問題的重要性。同時強調了發現奇怪之處、與人溝通、發現問題點、詢問AI並總結出答案的能力和實作的能力的重要性。
Thumbnail
AI 工具雖能在短時間生成內容,但它不瞭解你的客戶,也無法取代你做現場互動交流。在合適的時機選擇使用適合的 AI 工具,幫助我們專注於最重要的人事物上。
Thumbnail
AI 工具雖能在短時間生成內容,但它不瞭解你的客戶,也無法取代你做現場互動交流。在合適的時機選擇使用適合的 AI 工具,幫助我們專注於最重要的人事物上。
Thumbnail
最新的AI趨勢讓人眼花撩亂,不知要如何開始學習?本文介紹了作者對AI的使用和體驗,以及各類AI工具以及推薦的選擇。最後強調了AI是一個很好用的工具,可以幫助人們節省時間並提高效率。鼓勵人們保持好奇心,不停止學習,並提出了對健康生活和開心生活的祝福。
Thumbnail
最新的AI趨勢讓人眼花撩亂,不知要如何開始學習?本文介紹了作者對AI的使用和體驗,以及各類AI工具以及推薦的選擇。最後強調了AI是一個很好用的工具,可以幫助人們節省時間並提高效率。鼓勵人們保持好奇心,不停止學習,並提出了對健康生活和開心生活的祝福。
Thumbnail
近年來,生成式AI對市場帶來了巨大變革,然而,企業的AI專案卻面臨許多部署和失敗的問題。從MIT Sloan Management Review的研究中,我們發現數據科學家在尋找防止AI模型失敗的模式上面存在許多問題。本文提供了三個觀點,協助缺乏技術的高階主管針對辨識有效的AI模型和數據集提出方法。
Thumbnail
近年來,生成式AI對市場帶來了巨大變革,然而,企業的AI專案卻面臨許多部署和失敗的問題。從MIT Sloan Management Review的研究中,我們發現數據科學家在尋找防止AI模型失敗的模式上面存在許多問題。本文提供了三個觀點,協助缺乏技術的高階主管針對辨識有效的AI模型和數據集提出方法。
Thumbnail
已經成真的AI生成文字、圖片、音樂、影片,以及更多即將面世的AI運用場景,每一項都將對人類社會產生重大的影響。 很多人已經感受到AI的威力,並且因為擔心工作不保,所以急著參加各種AI教學課程。 我會以大量使用、測試AI的經驗,輔以田野調查的結果,詳細解釋為什麼在這個時代「AI教學課程」(幾乎)沒用。
Thumbnail
已經成真的AI生成文字、圖片、音樂、影片,以及更多即將面世的AI運用場景,每一項都將對人類社會產生重大的影響。 很多人已經感受到AI的威力,並且因為擔心工作不保,所以急著參加各種AI教學課程。 我會以大量使用、測試AI的經驗,輔以田野調查的結果,詳細解釋為什麼在這個時代「AI教學課程」(幾乎)沒用。
Thumbnail
AI 創作內容 (AIGC) 技術突飛猛進,人類已經越來越難辨識眼前所見照片、影片的真實度。為了讓使用者可以區別哪些是由 AI 產生的「非真實內容」,進而信任圖片的真實性,如:微軟、Adobe、Google、Midjourney、Nikon…等 AI 技術大廠紛紛建立起 AI 內容識別技術,幫助使用
Thumbnail
AI 創作內容 (AIGC) 技術突飛猛進,人類已經越來越難辨識眼前所見照片、影片的真實度。為了讓使用者可以區別哪些是由 AI 產生的「非真實內容」,進而信任圖片的真實性,如:微軟、Adobe、Google、Midjourney、Nikon…等 AI 技術大廠紛紛建立起 AI 內容識別技術,幫助使用
追蹤感興趣的內容從 Google News 追蹤更多 vocus 的最新精選內容追蹤 Google News