AI創作文泛濫,詐騙、謠言…我們迫切的需要一個訊息認証中心

更新 發佈閱讀 6 分鐘
其實我之前就嘗試探討這個問題,只是一直沒有結論,所以沒有在 AI將促進認證訊息管道的發展 中提出來。資訊認證中心,該由政府來做?還是私人機構來做?如果政府來做,政府的效率有設跟沒有也差不多;但是私人來做,也很難真正做到立場中立。後來剛好發現NewsNotFound這個新聞網站,發現這似乎是一個很好的方式。用AI去做訊息來源驗證,並重新過濾訊息,讓訊息更中立。

而這種網站最大的問題,也和Google面臨到的問題一樣,畢竟媒體需要盈利,需要流量,如果只是變成一個訊息來源,那麼獲利中斷,又有什麼人要去採訪新的新聞?現在新聞記者,又有多少人是實地採訪?都是左抄右抄。這種問題Google之類的新聞入口也難辭其咎吧?

更何況經過AI改寫,更中立、更精簡,那還有多少人要去看來源?那麼又有誰願意去做第一手採訪?

因為 法蘭克 在該篇文章的回應中提到未來需要訊息確認中心這件事,讓我覺得,雖然沒有一個確切的結論,但我還是可以就我之前探討的部份,做一個整理,雖然沒有結果,但還是可以讓有相同想法的人,一起來腦力激盪一下!

raw-image

雖然就如同文章開頭中所講到的,個人認為訊息認証中心,可能非常難以成立,但是我卻非常相信,訊息認証技術一定會越來越進步,也就是這個時候,發現了NewsNotFound這個網站,於是寫了之前的那篇文章。

其實我有思考過因為文字生成模型的普及,必然會造就訊息認証的發展,也是必要的發展。像是推特或是臉書的認証帳號,其發表的訊息,可以代表該個體官方發言,因此具有確定性,但也並非絕對正確,但至少是一個確認的實體,該實體對自己發表的訊息負責,那是否可以由國家級的單位,負責發佈國家訊息或驗証政策方面的訊息,而特定的學術單位,負責該學術領域相關的訊息驗証。

而"老師"給了以下的建議:

  1. 國家級單位:政府機構可以成立專門的部門或者與其他專業機構合作,對政策方面的訊息進行驗証。這可以幫助公眾更好地了解政策的真實性和可靠性,並提高政策的透明度。
  2. 學術單位:高校和研究機構可以在各自的領域內負責訊息驗証。這樣可以讓學術界的專家利用自己的專業知識來判定某一訊息是否可信。此外,這些機構也可以與國家級單位合作,共同為公眾提供更全面、更專業的訊息驗証服務。
  3. 行業組織和專業協會:這些組織可以為其成員提供行業內部的訊息驗証服務,確保成員在行業相關領域的信息真實可靠。
  4. 開放合作:為提高訊息驗証的準確性和公信力,各個機構可以相互合作,共享數據和資源。這樣可以讓訊息驗証過程更加公正、公開和透明。

但其實很明顯,"老師"給的建議都太樂觀,特別是國家級單位,就像開頭講到的,要讓政府來做這件事,跟本很就緣木求魚,更別說政治本身對"虛假訊息"就有很大的需求。講白了,虛假訊息除了詐騙以外,政治煽動就是最大宗。

學術單位部份,應該是難度最低的,因為原本就是論文系統,雖然較為封閉,但是要發展為訊息認証中心,是最有潛力的,若是以學術內容這個類別來看,以學術單位來發展訊息認証是最佳選擇。雖然說,也就僅限學術內容就是了。

至於業界部份,其實和學術單位類似,若是技術方面的,或是自己公司的相關事件,以公關部門來進行發話,也不失為一個好方法,然而平台就是一個大問題。目前公關部份發話,通常是透過新聞媒體,而目前的新聞媒體本身也是身處漩渦中心。如何發展出一個中立,而且具有公信力的平台,還需要許多努力。

最後開放合作的部份,我不太瞭解"老師"想表達的意思,或說其實我已經沒什麼興趣再去瞭解…因為感覺太過空泛。

另外就是關於一些論壇,或是社群平台,其實對於推論性的言論,著實很難有所規範。畢竟人人皆可推論,這也關係到言論自由,如果可以在訊息當中,很明確的標註,此為文學創作,或是推論,或是官方訊息發佈,便可以更加的確認該用什麼觀點來看待該文章。但是如果要硬性規定,似乎又有貼標籤的疑慮…這的確是個兩難的問題。

對此"老師"的意見是:

  1. 引入自我標籤機制:允許內容創作者在發布訊息時自主標註該訊息屬於哪一類型(例如文學創作、推論或官方訊息)。這樣可以讓讀者在閱讀時對訊息的性質有所了解,從而作出合適的判斷。
  2. 提高媒體素養:教育公眾如何辨識不同類型的訊息,並學會從多角度分析問題。這可以讓人們在面對各種訊息時,更具批判性思考能力,並自主判斷該訊息的可靠性。
  3. 建立共識:討論並達成一定程度的共識,確定在保護言論自由的前提下,哪些類型的訊息應該被規範,哪些可以保留一定的推論和創作空間。
  4. 非強制性的標籤:鼓勵創作者在他們的作品中使用標籤,但不要強制要求。這樣可以在一定程度上維護言論自由,同時也讓讀者對訊息有一定程度的了解。

從這些意見就可以發現,"老師"真的是太天真了,這幾點不但難以推動,而且依賴的是"自律",如果這個世界可以靠自律來解決問題,那麼…實際上也就沒有任何問題的存在了。

之後老師又舉了許多方法,如何提升素養…不過都太空泛了,這裡我也就不再覆製貼上。畢竟現在不只是貧富差距大,連認知差異都非常大,要對所有人教育,可以說是緣木求魚,還是先跳過好了…

不過在他的建議中有一項:"自我標籤",我覺得是一個蠻好的切入點。不過,還是有劣幣驅良幣可能,畢竟兵以詐立,以利動,在利益的驅使下,輕則帶風向,政治操作;媒體為求利益,不求事實;重則欺詐犯罪…這個在AI發展前,就已經很嚴重了,所以才會有AI促進犯罪的疑慮…

也就是到目前為止,似乎除了AI以外,似乎還沒有其他的好方法,來進行訊息驗証中心的建立呢?不過以AI制AI,個人覺得,這是一個好方法。如果NewsNotFound之類的發展,能夠找到方法可以顧及訊息來源的權益,其實這樣的發展方向,還真的蠻令人期待的。

留言
avatar-img
墨題
39會員
102內容數
現在資訊流通速度越來越快,雖然有很多資訊來源,但是如果仔細閱讀文章的人,一定不難發現,很多時候,即使是大型資訊網站,也常是抄來抄去,而許多鬼扯的內容也跟著被抄來抄去…
墨題的其他內容
2025/03/13
「知之為知之,不知為不知,是為知也。」這句話說明了真正的智慧不僅在於知道事情的答案,更在於能夠誠實面對自己的無知。然而,當我們討論 AI 的「知」時,問題就變得複雜起來。AI 真的能「知道」嗎?還是只是依賴數據的模式匹配來生成答案?
Thumbnail
2025/03/13
「知之為知之,不知為不知,是為知也。」這句話說明了真正的智慧不僅在於知道事情的答案,更在於能夠誠實面對自己的無知。然而,當我們討論 AI 的「知」時,問題就變得複雜起來。AI 真的能「知道」嗎?還是只是依賴數據的模式匹配來生成答案?
Thumbnail
2025/02/07
隨著人工智慧(AI)技術的飛速發展,科技的進步無疑已經突破了奇異點。AI不僅是一個加速器,更是一個能夠為各種科技領域加速,同時也能為自身發展加速的強大工具。回顧不到一年半前的2023年底,ChatGPT-3的發布,標誌著一個已經能夠站上世界舞台的AI正式登場。其近乎無限制的免費使用,瞬間引發了全球的
Thumbnail
2025/02/07
隨著人工智慧(AI)技術的飛速發展,科技的進步無疑已經突破了奇異點。AI不僅是一個加速器,更是一個能夠為各種科技領域加速,同時也能為自身發展加速的強大工具。回顧不到一年半前的2023年底,ChatGPT-3的發布,標誌著一個已經能夠站上世界舞台的AI正式登場。其近乎無限制的免費使用,瞬間引發了全球的
Thumbnail
2024/12/30
電力的衝突,該怎麼解? 最近看到O3( openAI最新AI代理人)的新聞,讓我感到百感交集,AI將電力的價值不斷的提升,政府仍不得不壓制電力的價格(因為民生必須),那麼這個衝突必然不斷擴大,畢竟同一資源卻必須區隔定價的狀況,歷史上太多失敗的案例,特別是當錨定價格與實際價值落差越大的時候…
Thumbnail
2024/12/30
電力的衝突,該怎麼解? 最近看到O3( openAI最新AI代理人)的新聞,讓我感到百感交集,AI將電力的價值不斷的提升,政府仍不得不壓制電力的價格(因為民生必須),那麼這個衝突必然不斷擴大,畢竟同一資源卻必須區隔定價的狀況,歷史上太多失敗的案例,特別是當錨定價格與實際價值落差越大的時候…
Thumbnail
看更多
你可能也想看
Thumbnail
在 vocus 與你一起探索內容、發掘靈感的路上,我們又將啟動新的冒險——vocus App 正式推出! 現在起,你可以在 iOS App Store 下載全新上架的 vocus App。 無論是在通勤路上、日常空檔,或一天結束後的放鬆時刻,都能自在沈浸在內容宇宙中。
Thumbnail
在 vocus 與你一起探索內容、發掘靈感的路上,我們又將啟動新的冒險——vocus App 正式推出! 現在起,你可以在 iOS App Store 下載全新上架的 vocus App。 無論是在通勤路上、日常空檔,或一天結束後的放鬆時刻,都能自在沈浸在內容宇宙中。
Thumbnail
vocus 慶祝推出 App,舉辦 2026 全站慶。推出精選內容與數位商品折扣,訂單免費與紅包抽獎、新註冊會員專屬活動、Boba Boost 贊助抽紅包,以及全站徵文,並邀請你一起來回顧過去的一年, vocus 與創作者共同留下了哪些精彩創作。
Thumbnail
vocus 慶祝推出 App,舉辦 2026 全站慶。推出精選內容與數位商品折扣,訂單免費與紅包抽獎、新註冊會員專屬活動、Boba Boost 贊助抽紅包,以及全站徵文,並邀請你一起來回顧過去的一年, vocus 與創作者共同留下了哪些精彩創作。
Thumbnail
這是《媒體素養企劃》正式上線的第一集。 訪談身邊的國高中之後,發現學生們已經意識到了媒體識讀的重要,同意需要辨識接收到的資訊,才不會誤信網路上的錯誤訊息。 但也不難發現學生並不具備媒體識讀的能力。
Thumbnail
這是《媒體素養企劃》正式上線的第一集。 訪談身邊的國高中之後,發現學生們已經意識到了媒體識讀的重要,同意需要辨識接收到的資訊,才不會誤信網路上的錯誤訊息。 但也不難發現學生並不具備媒體識讀的能力。
Thumbnail
其實我之前就嘗試探討這個問題,只是一直沒有結論,所以沒有在AI將促進認證訊息管道的發展 中提出來。資訊認證中心,該由政府來做?還是私人機構來做?如果政府來做,政府的效率有設跟沒有也差不多;但是私人來做,也很難真正做到立場中立。後來剛好發現NewsNotFound這個新聞網站,發現這似乎是一個很好的方
Thumbnail
其實我之前就嘗試探討這個問題,只是一直沒有結論,所以沒有在AI將促進認證訊息管道的發展 中提出來。資訊認證中心,該由政府來做?還是私人機構來做?如果政府來做,政府的效率有設跟沒有也差不多;但是私人來做,也很難真正做到立場中立。後來剛好發現NewsNotFound這個新聞網站,發現這似乎是一個很好的方
Thumbnail
在大者恆大的世界裡,各項資源分配的集中度已經逐漸移往極端值的兩側,而現行已經掌握注意力分配的資訊曝光平台、技術或服務公司、政府、社交媒體,未來AI的運用會加強對於受眾或使用者的黏著度,而當注意力已經習慣性被集中時,未來稀缺的資源將由注意力轉移到信任感。 因為信任感,自然能帶來注意力的紅利。
Thumbnail
在大者恆大的世界裡,各項資源分配的集中度已經逐漸移往極端值的兩側,而現行已經掌握注意力分配的資訊曝光平台、技術或服務公司、政府、社交媒體,未來AI的運用會加強對於受眾或使用者的黏著度,而當注意力已經習慣性被集中時,未來稀缺的資源將由注意力轉移到信任感。 因為信任感,自然能帶來注意力的紅利。
Thumbnail
我相信明細的條文肯定有討論和優化的空間。什麼樣的內容是有問題的需要有比較清楚的定義,有問題的內容應被怎麼處理也要充分考慮相應的可執行性。但這個法律的核心訴求我是百分之一百支持的。網路平台對自己平台上的內容有管理責任!
Thumbnail
我相信明細的條文肯定有討論和優化的空間。什麼樣的內容是有問題的需要有比較清楚的定義,有問題的內容應被怎麼處理也要充分考慮相應的可執行性。但這個法律的核心訴求我是百分之一百支持的。網路平台對自己平台上的內容有管理責任!
Thumbnail
近年來網軍假訊息與仇恨性言論影響著我們的數位世界與實體生活,更衝擊網路言論自由保障的界線,甚至民主國家的正常運作。雖然說既有的法律規範或實務見解在程度上可以處理這個界線或個案事件,但要更進一步完善的話,就必須調適或催生一部新的法律。於是乎,有了歐盟的《數位服務法》(Digital Service A
Thumbnail
近年來網軍假訊息與仇恨性言論影響著我們的數位世界與實體生活,更衝擊網路言論自由保障的界線,甚至民主國家的正常運作。雖然說既有的法律規範或實務見解在程度上可以處理這個界線或個案事件,但要更進一步完善的話,就必須調適或催生一部新的法律。於是乎,有了歐盟的《數位服務法》(Digital Service A
Thumbnail
Twitter上有人點名首富Elon Musk,問他:「你會考慮建立一個新的社交媒體平台嗎?一個平台可以開放演算法原始碼,把言論自由和遵從言論自由的精神當成首要任務,以及把片面的政治宣傳降到最低的平台,我認為這種平台是我們迫切需要的。」而Elon Musk則回應,「認真考慮中!」
Thumbnail
Twitter上有人點名首富Elon Musk,問他:「你會考慮建立一個新的社交媒體平台嗎?一個平台可以開放演算法原始碼,把言論自由和遵從言論自由的精神當成首要任務,以及把片面的政治宣傳降到最低的平台,我認為這種平台是我們迫切需要的。」而Elon Musk則回應,「認真考慮中!」
Thumbnail
4月28日臺大研究生協會主辦「數位世界中的言論自由與價值」論壇,是〈持續討論中〉系列活動最終回,邀請AI人工智慧實驗室創辦人杜奕瑾、資深媒體人黃哲斌、創作者張志祺及超直白,從不同身份、領域的角度切入,探討當網路社群與空間皆成為當代不可忽視的言論製造場,言論自由有受到保障嗎?言論審查又如何呈現?
Thumbnail
4月28日臺大研究生協會主辦「數位世界中的言論自由與價值」論壇,是〈持續討論中〉系列活動最終回,邀請AI人工智慧實驗室創辦人杜奕瑾、資深媒體人黃哲斌、創作者張志祺及超直白,從不同身份、領域的角度切入,探討當網路社群與空間皆成為當代不可忽視的言論製造場,言論自由有受到保障嗎?言論審查又如何呈現?
Thumbnail
《智能社會:進退兩難》根據谷歌、臉書、 推特、 Instagram等公司前主管跟員工的訪問,探討智能科技便利背後的隱憂,以及社群、網路媒體怎麼操控言論跟我們的思想。紀錄片進一步說明網路如何導致政治兩極化、社會信任度下降、青少女自殺率上升等社會問題。
Thumbnail
《智能社會:進退兩難》根據谷歌、臉書、 推特、 Instagram等公司前主管跟員工的訪問,探討智能科技便利背後的隱憂,以及社群、網路媒體怎麼操控言論跟我們的思想。紀錄片進一步說明網路如何導致政治兩極化、社會信任度下降、青少女自殺率上升等社會問題。
Thumbnail
隨著網路科技的進步、社群病毒式傳播的快速,別有居心的假新聞,恐怕是整個社會短時間內很難處理的問題。
Thumbnail
隨著網路科技的進步、社群病毒式傳播的快速,別有居心的假新聞,恐怕是整個社會短時間內很難處理的問題。
Thumbnail
科技的進步,人們越來越容易取得訊息,科技的進步,媒體也容易傳送消息,甚至,你我都可以是自媒體。 這樣的改變,使我們更輕易看見世界的脈動,但是,訊息的真偽也越來越難區分了,如何成為一個能辨別訊息真假的閱聽人,是現代公民的必修課!
Thumbnail
科技的進步,人們越來越容易取得訊息,科技的進步,媒體也容易傳送消息,甚至,你我都可以是自媒體。 這樣的改變,使我們更輕易看見世界的脈動,但是,訊息的真偽也越來越難區分了,如何成為一個能辨別訊息真假的閱聽人,是現代公民的必修課!
追蹤感興趣的內容從 Google News 追蹤更多 vocus 的最新精選內容追蹤 Google News