聰明用之前,先試著不要用?AI協作訓練的幾個可能

更新於 發佈於 閱讀時間約 4 分鐘
raw-image

中山大學社會學系的葉高華老師,最近在臉書上揭露自己的名字出現在幾篇學位論文的引用資料當中,但他完全沒有寫過那些被引用的論文。

這種「虛構文獻」、「幽靈論文」的情況也發生在其他老師身上,他們的名字都被和自己無關的研究題目連結在一起,研判高機率是研究生濫用AI寫論文產生的結果。

AI幻覺污染資料的時代,顯然已經在我們來不及防堵的時候造成嚴重影響。

這件事也不只是學術界的問題,凡是內容產業、出版產業,都會造成不小的衝擊。想想編輯除了文字校對、確認各種細節以外,還要確認作者的引用資料是否正確。正確的資料已經要確認半天了,現在還要面對AI的干擾,真的讓人頭皮發麻。

就學校報告和學位論文的AI污染而言,學校老師縱使有心,可能也沒有力氣幫學生做太多。

為了因應AI浪潮,有一種主張說,既然不可能完全不用AI,那就「聰明用」。但我認為這種說法有一些根本上的問題,也許可以討論看看。

一、「聰明用」的標準和基礎?

當前提出「聰明用AI」的專家或老師,多數其實都經歷過沒有AI工具的時代和條件。換言之,正是因為沒有經歷過AI工具的影響,所以才能掌握知識建構與流動的路徑,切身知道學術規範、研究和寫作倫理是怎麼一回事。

但這些「基本功」在資料爆炸、AI氾濫的時代裡面,可能變得非常難建構。別的不說,有些資料透過AI,查找檢證的難度不見得有比較低。因為AI背後的資料庫範圍實在太大了,到底哪些是真的?哪些是幻覺?哪些是幻覺+真實?哪些是真的有用?

有辦法在這種環境中檢證資料、聰明用AI、駕馭AI的人,是因為有相對應的知識基礎。沒有那個知識基礎和古典訓練,可能沒辦法了解「聰明用」背後的真義和價值。

二、「不要用」的實踐?

這裡說的「不要用」,聽起來非常激進,但不見得完全沒有實踐的可能。如前所述,AI越氾濫,我們應該越有必要強調古典訓練作為AI使用基礎和內容生產的最後一道防線。

AI技術當前最大的問題是,在資料庫和幻覺之間,生成式內容產生了龐大的核實成本。以前寫東西檢證資料來源的那一套,面對AI的真假和價值,可能得耗費更大的心神。如果沒有建構相關的應用倫理,根本無從防範AI幻覺和虛構的入侵。

因此,在各種實務或訓練的AI應用之前,如何重新提供練習尋找資料、檢證資料、判斷資料的能力?怎樣裁剪適當的內容範圍當作練習,或是設立更嚴格的檢核標準,呈現「在沒有訓練的狀況下,用AI付出的成本其實更高更危險」的潛在問題?而這個時代,又有什麼機制能讓原生的好內容獲得更多的肯定

三、AI背後的真正危機是什麼?

​同網路剛問世對世界文明造成的衝擊和改變一樣,AI的劃時代進步,也必然對文明知識的內容帶來影響。但AI除了技術問題演進,在使用者心理與價值觀的衝擊與照見,恐怕更為直接赤裸。

我認為AI之所以能跳躍性的進步,回應的固然是當代資訊發展、內容的極速現況。但這種極速背後,反映的是當前內容時代的多元競爭,以及低注意、強刺激快消費的變化,各種內容在現實和網路的「滯空續航力」和「長尾效益」不如以往的傳播環境。

這種現實,更加劇了壓低內容製作成本縮短時間的生產需求。它不見得全然是惰性,而是對於內容生產的價值認知和品質要求,已經出現「典範轉移」,原生AI世代對這些關鍵字,可能有著完全不一樣的想法和詮釋。

這些想法,加上當前網路的生態,形成一種使用各種數位工具的價值觀:要在短時間內取得內容、換取流量、得到成就。有問題又如何?反正炎上一下下就過了,信用貶值又如何?推給一個目前還不知道如何究責的AI,多方便?

古典傳統訓練可能不是萬靈丹,但卻是重新思考AI問題的起點。說不定以後會用AI的人滿街都是,但能紮實做出學問的人,會是稀有動物,進入另一個完全不同的高階市場。

未來不是靠會不會用AI決勝,而是靠誰能把AI用得負責任、有價值。

留言
avatar-img
留言分享你的想法!
avatar-img
A編出版會客室
2會員
10內容數
從對天吶喊、理智斷線的出版日常中精鍊出來的編輯豆知識、硬觀點
你可能也想看
Thumbnail
創作者營運專員/經理(Operations Specialist/Manager)將負責對平台成長及收入至關重要的 Partnership 夥伴創作者開發及營運。你將發揮對知識與內容變現、影響力變現的精準判斷力,找到你心中的潛力新星或有聲量的中大型創作者加入 vocus。
Thumbnail
創作者營運專員/經理(Operations Specialist/Manager)將負責對平台成長及收入至關重要的 Partnership 夥伴創作者開發及營運。你將發揮對知識與內容變現、影響力變現的精準判斷力,找到你心中的潛力新星或有聲量的中大型創作者加入 vocus。
Thumbnail
本文討論了在AI時代下我們需要具備的職能,例如提問力、判斷力和專業能力。同時也提到了在使用AI時需要注意的事情,以及一些問答希望可以跟讀者有所互動與交流。另外作者也分享了自己使用AI工具的心得,並期待可以幫助初學者更快地瞭解如何應對AI的基礎邏輯。
Thumbnail
本文討論了在AI時代下我們需要具備的職能,例如提問力、判斷力和專業能力。同時也提到了在使用AI時需要注意的事情,以及一些問答希望可以跟讀者有所互動與交流。另外作者也分享了自己使用AI工具的心得,並期待可以幫助初學者更快地瞭解如何應對AI的基礎邏輯。
Thumbnail
因為 AI 領域的技術不斷地迭代更新,無法避免的是需要一直去追新的技術 並且需要在一個有限的時間學會,或是實作應用導入到專案之中。 那我覺得在學習新技術可通過以下步驟: 1. 找一個讀得懂的教學資源 現在網路上的教學資源很多,或是書籍的資源也很豐富, 同時也有像是 chatgpt 的 AI
Thumbnail
因為 AI 領域的技術不斷地迭代更新,無法避免的是需要一直去追新的技術 並且需要在一個有限的時間學會,或是實作應用導入到專案之中。 那我覺得在學習新技術可通過以下步驟: 1. 找一個讀得懂的教學資源 現在網路上的教學資源很多,或是書籍的資源也很豐富, 同時也有像是 chatgpt 的 AI
Thumbnail
AI繪圖要廣泛用於商用還有一大段路,還需要依賴人類的經驗判斷、調整,為什麼呢?
Thumbnail
AI繪圖要廣泛用於商用還有一大段路,還需要依賴人類的經驗判斷、調整,為什麼呢?
Thumbnail
這是一篇描述測試AI功能的文章,內容是一些隨心所欲的想法和想像,引導讀者思考現實世界及經歷。文章內容充滿了一些具有戲劇性和冒險色彩的詞彙和描述。
Thumbnail
這是一篇描述測試AI功能的文章,內容是一些隨心所欲的想法和想像,引導讀者思考現實世界及經歷。文章內容充滿了一些具有戲劇性和冒險色彩的詞彙和描述。
Thumbnail
為了充分發揮AI的潛力,我們必須深入瞭解其運作模式和思考邏輯,並學會與AI對話的技巧。《ChatGPT提問課,做個懂AI的高效工作者》這本書提供了豐富的實例,讓讀者更容易學會如何提出精準的問題,並享有提問課程的閱讀回饋。這對於想成為懂AI的高效工作者的人來說,是一本值得一看的書。
Thumbnail
為了充分發揮AI的潛力,我們必須深入瞭解其運作模式和思考邏輯,並學會與AI對話的技巧。《ChatGPT提問課,做個懂AI的高效工作者》這本書提供了豐富的實例,讓讀者更容易學會如何提出精準的問題,並享有提問課程的閱讀回饋。這對於想成為懂AI的高效工作者的人來說,是一本值得一看的書。
Thumbnail
本篇文章分享了對創意和靈感來源的深入思考,以及如何將其轉化為實際的成果或解決方案的過程。透過學習、資料收集、練習、創新等方法,提出了將創意落實的思路和技巧。同時介紹了AI在外顯知識的自動化應用,以及對其潛在發展方向的討論。最後探討了傳統機器學習技術在模擬中的應用案例和對AI世界的影響。
Thumbnail
本篇文章分享了對創意和靈感來源的深入思考,以及如何將其轉化為實際的成果或解決方案的過程。透過學習、資料收集、練習、創新等方法,提出了將創意落實的思路和技巧。同時介紹了AI在外顯知識的自動化應用,以及對其潛在發展方向的討論。最後探討了傳統機器學習技術在模擬中的應用案例和對AI世界的影響。
Thumbnail
已經成真的AI生成文字、圖片、音樂、影片,以及更多即將面世的AI運用場景,每一項都將對人類社會產生重大的影響。 很多人已經感受到AI的威力,並且因為擔心工作不保,所以急著參加各種AI教學課程。 我會以大量使用、測試AI的經驗,輔以田野調查的結果,詳細解釋為什麼在這個時代「AI教學課程」(幾乎)沒用。
Thumbnail
已經成真的AI生成文字、圖片、音樂、影片,以及更多即將面世的AI運用場景,每一項都將對人類社會產生重大的影響。 很多人已經感受到AI的威力,並且因為擔心工作不保,所以急著參加各種AI教學課程。 我會以大量使用、測試AI的經驗,輔以田野調查的結果,詳細解釋為什麼在這個時代「AI教學課程」(幾乎)沒用。
追蹤感興趣的內容從 Google News 追蹤更多 vocus 的最新精選內容追蹤 Google News