發現薇趨勢/當AI出現幻覺

閱讀時間約 3 分鐘

近期一則有趣的生成式AI新聞,內容是這樣說的:「像是ChatGPT等生成式AI,跟人一樣會產生幻覺。所謂的幻覺,是指生成式AI用錯誤、甚至是不存在的資訊回答使用者的提問。其中的錯誤率,ChatGPT是3%,Meta旗下的聊天機器人是5%,而Google的PaLm竟高達27%。」

生成式AI產生幻覺,究竟是件好事還是壞事呢?答案其實取決於使用者更希望它是一個「工具」,還是一個「人」。

生成式AI的原理是這樣的:資料庫蒐集了一大堆資料,經由大型語言模型進行深度學習,在使用者問了問題之後,它重新組織答案,生成我們能理解的語言。

這個工具的侷限是無法回答資料庫沒有的資料。這有點像是小時候常常玩的連連看——第一個選項有張三、李四,第二個選項只有「去」,第三個選項有餐廳、山洞、海邊。用這樣的模組創造出的組合,其中一種會是「張三去山洞」;因為資料庫裡沒有其他資訊,所以它永遠不會出現「王五去百貨公司」。反觀,若生成式AI出現幻覺,那將可能跑出資料庫以外的答案。

美國CNN曾採訪專門研究AI的布朗大學教授,教授表示:「生成式AI的主要任務,就是提供使用者一個看似合理的答案,中間並沒有核實資料正確與否的步驟。與其說它們謊話連篇,出現幻覺;不如說,這樣的現象比較像是四歲小孩脫口而出的故事,本質上沒有惡意。」

如何辨別沒有惡意的虛假內容,便是使用生成式AI時必須核實的原因,這正凸顯了在便利的工具下,「人」特別的價值。

然而,生成式AI產生幻覺的意外,在短時間內很難解決,這讓許多懼怕AI工具取代自己工作的人鬆了一口氣。

其實,坊間對於這個工具的衡量維度過於單一,因而引起不必要的恐慌。舉例來說,常看到這類的新聞標題:「ChatGPT AI通過美國大學商學院和法律考試」、「Google AI醫療聊天機器人取得美國醫師資格證書」等。

試問,AI聊天機器人通過上述的考試,就能成為合格的商學院或醫學院的畢業生嗎?

這讓我想起從前的入學測驗與現在大不同。我考大學的那一年,入學管道還沒有那麼多元,只有「學測」與「指考」。學測成績搭配在校期間其他的優良事蹟,可以參加「推甄」;而指考就是以筆試分數為主的入學方式,答錯還會倒扣。雖然學測入學考慮了分數以外的向度,但筆試成績沒達到一定水準,還是很難進入理想的學校。

而現今,大學入學考試愈來愈多元,有繁星計畫、學測、推甄、特殊選才、分科測驗等,筆試成績不再是唯一的指標,這確實更符合國際上多元發展的風氣,強調不是只有智育成績優秀而已,更應該追求五育平均的發展。

而通過各式各樣考試的AI聊天機器人,就比較像是過去只追求筆試成績就得到入學資格的學生,除了考試的幾個科目,其他該具備的能力一樣都不擅長。

這樣看來,生成式AI要取代「人」,還需要花不少的時間;但作為化繁為簡的工具,卻已經足夠協助處理日常事務了。

產生幻覺的生成式AI,以文字生成來說,有點像是過去作文老師期待的,既要有邏輯,又要有想像力。而目前的實際是,有時天馬行空,有時胡說八道。端看把它當成是「工具」還是「人」,才能決定它是好是壞。

24會員
92內容數
Podcast節目【數位趨勢醬子讀】的專欄作家文章匯流 從科技新聞帶你看產業趨勢,有別於坊間搖旗吶喊式的附和,本節目提供的獨家觀點絕對讓你耳目一新! 你想知道科技新聞背後的微趨勢將如何改變我們的未來嗎?跟著兩位專欄名家一起看就世界還沒發現的微趨勢吧!
留言0
查看全部
發表第一個留言支持創作者!
王薇瑄的沙龍 的其他內容
近期常在大專院校演講,有機會與即將步入職場的新鮮人交流。「有人想要創業嗎?」我總是這麼問。因為自己在博士畢業就創業,因而對現在新鮮人的職涯規劃深感好奇。
近十年來,拜數位網路之賜,新技術開發的訊息在世界各地迅速散播,這讓企業在研發時有更多的策略與想像。近期觀察到的幾個現象,讓人不禁開始思考,究竟在研發端作為顯學的產品,離成為市場寵兒的距離有多遠? 自從祖克伯喊出「元宇宙」口號後,許多科技公司便研發AR、VR、MR穿戴式載具,消費者可以透過穿戴裝置,
科技浪潮一波接一波,大公司每年提出新產品或構想,其後就有源源不絕的追隨者。這些大公司看似獨領風騷,其實時常也進退兩難。 舉例來說,當淨零排放成為全球永續目標之一,世界各國開始熱中於電動車產業的布局,台灣的鴻海科技集團也提出MIH電動車聯盟,希望創造絕佳的使用者體驗,並陸續設立生產工廠,招募供應鏈夥
日本具代表性的品牌東芝(Toshiba),有上市74年的歷史,若日本企業聯盟對東芝實施股票公開買賣,東芝將於今年下市。 東芝主力有半導體、核電與家電,許多產品都是日本首家製造商,包括雷達、電晶體電視與微波爐等,世界上第一台筆記型電腦也是出自東芝之手,昔日榮光歷歷眼前。
今年年初,OpenAI推出ChatGPT應用程式,正式開啟了全球生成式AI(AI Gernative Content; AIGC)的序幕。
By 王薇瑄 聲鮮時采科技營運長、科技媒體專欄作家 恰逢七月,我任職的單位舉辦孩子的夏令營,加強小學五年級到國中三年級學生的口語傳播能力。短短三天,我訝異現在的孩子獲得的資訊量,遠遠超出我同齡的時候。 課程中,有個小學五年級的孩子分享他對「人的價值」的想法。當老師還在讚嘆十歲年紀竟想談如此有意義
近期常在大專院校演講,有機會與即將步入職場的新鮮人交流。「有人想要創業嗎?」我總是這麼問。因為自己在博士畢業就創業,因而對現在新鮮人的職涯規劃深感好奇。
近十年來,拜數位網路之賜,新技術開發的訊息在世界各地迅速散播,這讓企業在研發時有更多的策略與想像。近期觀察到的幾個現象,讓人不禁開始思考,究竟在研發端作為顯學的產品,離成為市場寵兒的距離有多遠? 自從祖克伯喊出「元宇宙」口號後,許多科技公司便研發AR、VR、MR穿戴式載具,消費者可以透過穿戴裝置,
科技浪潮一波接一波,大公司每年提出新產品或構想,其後就有源源不絕的追隨者。這些大公司看似獨領風騷,其實時常也進退兩難。 舉例來說,當淨零排放成為全球永續目標之一,世界各國開始熱中於電動車產業的布局,台灣的鴻海科技集團也提出MIH電動車聯盟,希望創造絕佳的使用者體驗,並陸續設立生產工廠,招募供應鏈夥
日本具代表性的品牌東芝(Toshiba),有上市74年的歷史,若日本企業聯盟對東芝實施股票公開買賣,東芝將於今年下市。 東芝主力有半導體、核電與家電,許多產品都是日本首家製造商,包括雷達、電晶體電視與微波爐等,世界上第一台筆記型電腦也是出自東芝之手,昔日榮光歷歷眼前。
今年年初,OpenAI推出ChatGPT應用程式,正式開啟了全球生成式AI(AI Gernative Content; AIGC)的序幕。
By 王薇瑄 聲鮮時采科技營運長、科技媒體專欄作家 恰逢七月,我任職的單位舉辦孩子的夏令營,加強小學五年級到國中三年級學生的口語傳播能力。短短三天,我訝異現在的孩子獲得的資訊量,遠遠超出我同齡的時候。 課程中,有個小學五年級的孩子分享他對「人的價值」的想法。當老師還在讚嘆十歲年紀竟想談如此有意義
你可能也想看
Google News 追蹤
Thumbnail
這個秋,Chill 嗨嗨!穿搭美美去賞楓,裝備款款去露營⋯⋯你的秋天怎麼過?秋日 To Do List 等你分享! 秋季全站徵文,我們準備了五個創作主題,參賽還有機會獲得「火烤兩用鍋」,一起來看看如何參加吧~
前言:本文為綜合了《日經亞洲》雜誌四篇報導的重要資訊所寫成,在台積電的亞利桑那新廠剛舉行設備裝設完成慶祝典禮,美國總統和美國晶片業兩大巨頭超微和輝達的台裔CEO都親臨現場發表賀詞時,在這場重組全球晶片供應鏈的無硝煙戰爭中處於落後的前冠軍日本、從零開始的新玩家印度還有原本在過去十年急起直追卻接連被兩任
Thumbnail
每個人都想理財,也都會想嘗試將錢擺至不同的理財工具。 可能是想體驗看是否適合自己,也可能是想藉此分散風險! 定期檢視、定期追蹤,才能讓資產有效增長。
Thumbnail
​ 你知道新莊區曾經被日本人寫進推理小說嗎? 你知道新莊區有位著名的古典詩人在這裡教過書嗎? 你知道有位號稱「大王椰子」的小說家,長期都在書寫新莊嗎? 關於新莊區中正路文學的一切一切,讓我們用散步的方式,跟著新北市新莊區社區大學腳步,探訪新莊區快要消失的美麗。 新北市新莊區的文學散步之微旅行相關資
Thumbnail
最後一張照片是張子桓趁吳維勳起床時偷拍的,他拍下了跟六法對望的吳維勳,吳維勳的側臉上有光,隱隱約約地,他在笑。 凝視著這些照片,張子桓好像知道要如何命題了。或許老師是對的,他在心中默唸:「只有真的才能成為命題。」 只有真的才能成為命題。 他在理念裡只寫了這麼一句話。 「跟我在一起吧。」
Thumbnail
智慧型手機龍頭蘋果 Apple,在上個月底,正式發布了最新一季的財報。當然,在科技巨頭每一家的財報都開的非常好的第一季,蘋果也不例外,成績非常耀眼,幾乎各產品線都全面開花。
Thumbnail
今天要跟大家分享的是《未來十年微趨勢》,以往市場標準化與一致性程度很高,企業以少樣產品與服務就能應對大眾市場,但在國際化的多元化競爭下,再加上網路媒體演算法針對個人偏好打造的廣告,發展所造成的分眾化,只要找到這種強而有力的分眾對象與微趨勢,就有可能促成巨大的影響!!
Thumbnail
客戶公司旅遊到了機場才發現唯一”護照”沒帶居然是老闆娘的好友 -那些年危機處理的故事   在不小心從事22年的旅遊業中,常常發生各種光怪離奇的事情,也常常需要處理各種狀況,各式各樣五花八門,每次遇到就像是一場全新的打怪任務,需要不斷地重新學習新的技能,學習新的方法才可以解決眼前的問題。   在某次幫
Thumbnail
台股外資開始轉買,籌碼有利台股走勢!台股沿著5日線往上震盪走高! 陸股多方持續控盤,持續往上進攻!
Thumbnail
這個秋,Chill 嗨嗨!穿搭美美去賞楓,裝備款款去露營⋯⋯你的秋天怎麼過?秋日 To Do List 等你分享! 秋季全站徵文,我們準備了五個創作主題,參賽還有機會獲得「火烤兩用鍋」,一起來看看如何參加吧~
前言:本文為綜合了《日經亞洲》雜誌四篇報導的重要資訊所寫成,在台積電的亞利桑那新廠剛舉行設備裝設完成慶祝典禮,美國總統和美國晶片業兩大巨頭超微和輝達的台裔CEO都親臨現場發表賀詞時,在這場重組全球晶片供應鏈的無硝煙戰爭中處於落後的前冠軍日本、從零開始的新玩家印度還有原本在過去十年急起直追卻接連被兩任
Thumbnail
每個人都想理財,也都會想嘗試將錢擺至不同的理財工具。 可能是想體驗看是否適合自己,也可能是想藉此分散風險! 定期檢視、定期追蹤,才能讓資產有效增長。
Thumbnail
​ 你知道新莊區曾經被日本人寫進推理小說嗎? 你知道新莊區有位著名的古典詩人在這裡教過書嗎? 你知道有位號稱「大王椰子」的小說家,長期都在書寫新莊嗎? 關於新莊區中正路文學的一切一切,讓我們用散步的方式,跟著新北市新莊區社區大學腳步,探訪新莊區快要消失的美麗。 新北市新莊區的文學散步之微旅行相關資
Thumbnail
最後一張照片是張子桓趁吳維勳起床時偷拍的,他拍下了跟六法對望的吳維勳,吳維勳的側臉上有光,隱隱約約地,他在笑。 凝視著這些照片,張子桓好像知道要如何命題了。或許老師是對的,他在心中默唸:「只有真的才能成為命題。」 只有真的才能成為命題。 他在理念裡只寫了這麼一句話。 「跟我在一起吧。」
Thumbnail
智慧型手機龍頭蘋果 Apple,在上個月底,正式發布了最新一季的財報。當然,在科技巨頭每一家的財報都開的非常好的第一季,蘋果也不例外,成績非常耀眼,幾乎各產品線都全面開花。
Thumbnail
今天要跟大家分享的是《未來十年微趨勢》,以往市場標準化與一致性程度很高,企業以少樣產品與服務就能應對大眾市場,但在國際化的多元化競爭下,再加上網路媒體演算法針對個人偏好打造的廣告,發展所造成的分眾化,只要找到這種強而有力的分眾對象與微趨勢,就有可能促成巨大的影響!!
Thumbnail
客戶公司旅遊到了機場才發現唯一”護照”沒帶居然是老闆娘的好友 -那些年危機處理的故事   在不小心從事22年的旅遊業中,常常發生各種光怪離奇的事情,也常常需要處理各種狀況,各式各樣五花八門,每次遇到就像是一場全新的打怪任務,需要不斷地重新學習新的技能,學習新的方法才可以解決眼前的問題。   在某次幫
Thumbnail
台股外資開始轉買,籌碼有利台股走勢!台股沿著5日線往上震盪走高! 陸股多方持續控盤,持續往上進攻!