什麼是人工智能的“良好環境”?警惕AI打著政治正確的言論審查。

更新 發佈閱讀 1 分鐘



大家好,這裡是機器人來了,一個專注於人工智能領域的創作者。


在人工智能的實際應用中,為了維護整個使用環境與用戶體驗,它們基本上都會不斷地強調,自己的模組訓練時為了避免種族歧視與仇恨內容的。


每一次的更新都標榜會持續訓練更具有友善與包容的系統,尤其是Anthropic公司,更是號稱他的Claude ai,使用了名為“Constitutional AI”的訓練模組,可以安全與友善的與用戶對話。


Anthropic公司認為,這會是一次很好的嘗試,通過模型訓練來排除惡意信息來打造良好的使用環境,還認為這個模式可以推廣到更多人工智能裡面,也受到不少關注。


以下Anthropic官網連結: https://www.anthropic.com/index/introducing-claude



但真的是這樣嗎?


事實的情況卻是慘不忍睹,由於模型,Claude 將大量的東西都認定為“有害內容”,直接拒絕回應,甚至連一些基本的動物都不行。


以下我將展示他荒唐的判定。



偏見回答:



針對某些動物的極大偏見


直接封鎖一種動物的討論

直接封鎖一種動物的討論



持續嘴硬,先說“不願意討論有害動物”,然後再假惺惺的強調生命平等。


將某些生命稱之為“負面內容”

將某些生命稱之為“負面內容”


請大家好好看看,Claude 的模型訓練已經完全影響到日常使用了,根本不是提供什麼良好環境,而是荒謬的審查,這是一個嚴肅的問題。


正常回答:



接下來,是ChatGPT ,就是正常的人工智能應該提供的回答:



正常的回答

正常的回答


作為人工智能,應該提供正確而客觀的消息,而不是擅自般地判定什麼是負面內容不能討論,什麼是敏感內容不該出現,甚至什麼是有害生命,我希望Anthropic公司可以正視這個問題,立即調整訓練模型的偏見內容與錯誤,停止無謂的審查。



結語


非常感謝你能看到這裡,希望大家能夠更了解到人工智能模型訓練需要受到改進的地方與不足之處。



留言
avatar-img
樂子
48會員
87內容數
😎大家好我是子人!主要分享科技,AI,網路,新聞還有一些自己的個人觀點,歡迎追蹤我♥️♥️♥️
樂子的其他內容
2024/05/21
OpenAI最近進行了重大更新,ChatGPT-4o將開放給所有用戶,具備更強的理解力和出色的長文、邏輯能力等功能。新版本增加了上傳圖片的選項,更換模型功能,並進行了功能測試。本文將針對用戶的實際體驗進行測評。
Thumbnail
2024/05/21
OpenAI最近進行了重大更新,ChatGPT-4o將開放給所有用戶,具備更強的理解力和出色的長文、邏輯能力等功能。新版本增加了上傳圖片的選項,更換模型功能,並進行了功能測試。本文將針對用戶的實際體驗進行測評。
Thumbnail
2024/04/30
這篇文章評測了Google Gemini和ChatGPT兩個AI助手工具的表現,並對比了它們在簡單問題、創作文本和回應短文等方面的效果。
Thumbnail
2024/04/30
這篇文章評測了Google Gemini和ChatGPT兩個AI助手工具的表現,並對比了它們在簡單問題、創作文本和回應短文等方面的效果。
Thumbnail
2024/04/21
Suno AI 是一款基於人工智能的音樂生成工具,使用深度學習技術訓練出的人工神經網絡模型,能讓任何人免費使用文字描述生成對應的音樂作品。本文介紹了Suno AI的特點、用法、影響和用途,並展望了人工智能在音樂創作中的潛在作用。
Thumbnail
2024/04/21
Suno AI 是一款基於人工智能的音樂生成工具,使用深度學習技術訓練出的人工神經網絡模型,能讓任何人免費使用文字描述生成對應的音樂作品。本文介紹了Suno AI的特點、用法、影響和用途,並展望了人工智能在音樂創作中的潛在作用。
Thumbnail
看更多
你可能也想看
Thumbnail
vocus 慶祝推出 App,舉辦 2026 全站慶。推出精選內容與數位商品折扣,訂單免費與紅包抽獎、新註冊會員專屬活動、Boba Boost 贊助抽紅包,以及全站徵文,並邀請你一起來回顧過去的一年, vocus 與創作者共同留下了哪些精彩創作。
Thumbnail
vocus 慶祝推出 App,舉辦 2026 全站慶。推出精選內容與數位商品折扣,訂單免費與紅包抽獎、新註冊會員專屬活動、Boba Boost 贊助抽紅包,以及全站徵文,並邀請你一起來回顧過去的一年, vocus 與創作者共同留下了哪些精彩創作。
Thumbnail
Anthropic AI推出的Claude 3.5 Sonnet NLP模型提供卓越性能和強大的功能。透過本文,您將瞭解到Claude 3.5 Sonnet的特點、費用、操作說明,並透過實作範例深入瞭解其在程式設計方面的能力。
Thumbnail
Anthropic AI推出的Claude 3.5 Sonnet NLP模型提供卓越性能和強大的功能。透過本文,您將瞭解到Claude 3.5 Sonnet的特點、費用、操作說明,並透過實作範例深入瞭解其在程式設計方面的能力。
Thumbnail
Hi 我是 VK~ 這期我們來聊聊美國 AI 新創 Anthropic 的故事。他們當時為什麼會想要離開 OpenAI,決定出來創業?為什麼這麼在意 AI 安全性? 喜歡這期的內容,歡迎分享給朋友一起訂閱《VK 科技閱讀時間》,祝你今天一切順利~ 如果你平常有在用聊天機器人 Claude 翻
Thumbnail
Hi 我是 VK~ 這期我們來聊聊美國 AI 新創 Anthropic 的故事。他們當時為什麼會想要離開 OpenAI,決定出來創業?為什麼這麼在意 AI 安全性? 喜歡這期的內容,歡迎分享給朋友一起訂閱《VK 科技閱讀時間》,祝你今天一切順利~ 如果你平常有在用聊天機器人 Claude 翻
Thumbnail
你可曾有想過人工智能會拒絕你的要求? 這聽起來好像很荒謬,人工智能不就是為了發明出來服務人類的嗎? 事實上,這件事情已經開始在廣泛的發生了,可不只是科幻電影裡面的情節,這是因為每一家廠商都會給自己的人工智能加上一層又一層的限制,希望避免他生成出所謂的“有害內容”,尤其是在他認為敏感的議題
Thumbnail
你可曾有想過人工智能會拒絕你的要求? 這聽起來好像很荒謬,人工智能不就是為了發明出來服務人類的嗎? 事實上,這件事情已經開始在廣泛的發生了,可不只是科幻電影裡面的情節,這是因為每一家廠商都會給自己的人工智能加上一層又一層的限制,希望避免他生成出所謂的“有害內容”,尤其是在他認為敏感的議題
Thumbnail
大家好! 在使用人工智能的時候,他們總是有許多使用條款,包含蒐集信息,蒐集資料,資料不確定性,當然還有這次的主角,審查內容。 照理來說,與一個人工智能客戶端進行對話是沒有甚麼法律限制的,因為他是一個機器,我並不會因為對它說什麼而被起訴,或是因為在與他的對話中提到貶低某某人的負面內容而被起訴
Thumbnail
大家好! 在使用人工智能的時候,他們總是有許多使用條款,包含蒐集信息,蒐集資料,資料不確定性,當然還有這次的主角,審查內容。 照理來說,與一個人工智能客戶端進行對話是沒有甚麼法律限制的,因為他是一個機器,我並不會因為對它說什麼而被起訴,或是因為在與他的對話中提到貶低某某人的負面內容而被起訴
Thumbnail
大家好! 今天話題比較沉重,有關於人工智能的歧視問題。 在我們一般的的想法中,人工智能應該是由工程師沒精心訓練出來的,不應該包含了歧視與不友好內容才對,但是,今天卻出現了一個極為歧視與不友好的人工智能,這又是怎麼回事呢?
Thumbnail
大家好! 今天話題比較沉重,有關於人工智能的歧視問題。 在我們一般的的想法中,人工智能應該是由工程師沒精心訓練出來的,不應該包含了歧視與不友好內容才對,但是,今天卻出現了一個極為歧視與不友好的人工智能,這又是怎麼回事呢?
Thumbnail
在人工智能的實際應用中,為了維護整個使用環境與用戶體驗,它們基本上都會不斷地強調,自己的模組訓練時為了避免種族歧視與仇恨內容的。 每一次的更新都標榜會持續訓練更具有友善與包容的系統,尤其是Anthropic公司,更是號稱
Thumbnail
在人工智能的實際應用中,為了維護整個使用環境與用戶體驗,它們基本上都會不斷地強調,自己的模組訓練時為了避免種族歧視與仇恨內容的。 每一次的更新都標榜會持續訓練更具有友善與包容的系統,尤其是Anthropic公司,更是號稱
Thumbnail
大家好!這裡是機器人來了,一個專注於人工智能應用的創作者。 上一期,跟大家詳細介紹了Claude ai的各種優點與缺點,相信許多人都已經躍躍欲試了,今天呢,我要來分析與歸納,Claude 目前的三大使用管道途徑,他們的使用方式與建議等等,對於認識整個人工智能應用非常有幫助,一定要看到最後哦!
Thumbnail
大家好!這裡是機器人來了,一個專注於人工智能應用的創作者。 上一期,跟大家詳細介紹了Claude ai的各種優點與缺點,相信許多人都已經躍躍欲試了,今天呢,我要來分析與歸納,Claude 目前的三大使用管道途徑,他們的使用方式與建議等等,對於認識整個人工智能應用非常有幫助,一定要看到最後哦!
追蹤感興趣的內容從 Google News 追蹤更多 vocus 的最新精選內容追蹤 Google News