近日,Google 推出的新功能 AI Overviews 引發了一陣網路熱議。這個功能本意是為用戶提供快速、準確的搜索結果摘要,卻因為無法識別諷刺和幽默內容,鬧出了不少笑話。其中最引人注目的是,AI 竟然建議人們「每天至少吃一塊小石頭」來維持健康!
這個令人啼笑皆非的建議源自於一篇來自諷刺新聞網站 The Onion 的文章,但 Google 的 AI 系統卻將其誤認為真實的健康建議。除此之外,AI Overviews 還給出了一些equally荒謬的建議,比如在披薩上塗膠水,或者喝自己的尿液。這些「奇葩」建議迅速在社交媒體上傳播開來,引發了大量討論和調侃。
那麼,為什麼會發生這樣的烏龍呢?原因主要有兩個:
一、AI 系統對諷刺和幽默內容的識別能力不足。Google 的 AI 模型 Gemini 在訓練過程中可能更注重提供乾貨和事實性內容,而忽視了對諷刺、幽默等修辭手法的識別。這導致它在面對諷刺性內容時,往往會「認真」地將其視為真實信息。
二、搜索結果中用戶生成內容的比重增加。為了應對大量 AI 生成的內容,Google 近期將搜索結果更多地傾向於來自 Reddit 等用戶生成內容平台的信息。然而,這些平台上充斥著大量諷刺、玩笑和惡搞內容,進一步增加了 AI 系統誤判的可能性。
這一事件引發了人們對 AI 技術局限性的思考。儘管在許多領域,AI 已經展現出超越人類的能力,但在理解語境、把握幽默感等方面,AI 仍然存在明顯短板。這也提醒我們,在使用 AI 工具時,仍然需要保持警惕和批判性思維。
對於 Google 來說,這無疑是一次尷尬的經歷。公司不得不暫時回滾部分搜索查詢的 AI Overviews 功能,並發布博客文章解釋情況。然而,從長遠來看,這次事件或許能推動 Google 進一步完善其 AI 系統,提高其對諷刺和幽默內容的識別能力。
值得注意的是,雖然「吃石頭」等荒謬建議引發了廣泛關注,但這些極端案例並不能代表 AI Overviews 的整體表現。事實上,對於大多數日常查詢,該系統仍然能夠提供相對準確的信息摘要。
然而,對於內容創作者和網站運營者來說,AI Overviews 帶來的挑戰遠不止於此。更令人擔憂的是,這種自動摘要技術可能會減少用戶點擊原始內容的機會,從而影響網站流量和收入。這一問題值得 Google 和整個互聯網生態系統深思。
總的來說,「吃石頭」事件既讓人捧腹大笑,又引發了對 AI 技術發展的深度思考。它提醒我們,在擁抱 AI 帶來便利的同時,也要認識到技術的局限性,保持理性和批判性思維。畢竟,無論 AI 多麼先進,人類的判斷力和幽默感仍然是無可替代的。