什麼是人工智能的“良好環境”?警惕AI打著政治正確的言論審查。

閱讀時間約 1 分鐘



大家好,這裡是機器人來了,一個專注於人工智能領域的創作者。


在人工智能的實際應用中,為了維護整個使用環境與用戶體驗,它們基本上都會不斷地強調,自己的模組訓練時為了避免種族歧視與仇恨內容的。


每一次的更新都標榜會持續訓練更具有友善與包容的系統,尤其是Anthropic公司,更是號稱他的Claude ai,使用了名為“Constitutional AI”的訓練模組,可以安全與友善的與用戶對話。


Anthropic公司認為,這會是一次很好的嘗試,通過模型訓練來排除惡意信息來打造良好的使用環境,還認為這個模式可以推廣到更多人工智能裡面,也受到不少關注。


以下Anthropic官網連結: https://www.anthropic.com/index/introducing-claude



但真的是這樣嗎?


事實的情況卻是慘不忍睹,由於模型,Claude 將大量的東西都認定為“有害內容”,直接拒絕回應,甚至連一些基本的動物都不行。


以下我將展示他荒唐的判定。



偏見回答:



針對某些動物的極大偏見


直接封鎖一種動物的討論

直接封鎖一種動物的討論



持續嘴硬,先說“不願意討論有害動物”,然後再假惺惺的強調生命平等。


將某些生命稱之為“負面內容”

將某些生命稱之為“負面內容”


請大家好好看看,Claude 的模型訓練已經完全影響到日常使用了,根本不是提供什麼良好環境,而是荒謬的審查,這是一個嚴肅的問題。


正常回答:



接下來,是ChatGPT ,就是正常的人工智能應該提供的回答:



正常的回答

正常的回答


作為人工智能,應該提供正確而客觀的消息,而不是擅自般地判定什麼是負面內容不能討論,什麼是敏感內容不該出現,甚至什麼是有害生命,我希望Anthropic公司可以正視這個問題,立即調整訓練模型的偏見內容與錯誤,停止無謂的審查。



結語


非常感謝你能看到這裡,希望大家能夠更了解到人工智能模型訓練需要受到改進的地方與不足之處。



avatar-img
44會員
87內容數
😎大家好我是子人!主要分享科技,AI,網路,新聞還有一些自己的個人觀點,歡迎追蹤我♥️♥️♥️
留言0
查看全部
avatar-img
發表第一個留言支持創作者!
樂子 的其他內容
在我們與人文自然對話的時候,我們個人的精力是有限的,為了要最大程度的將話題導向我們需要的地方,產生正確的內容,我們就需要有這樣的一個認識:溝通成本 成本,指的就是你進行一次的活動所需要付出的代價,“溝通成本”的自然就是你在進行溝通
今天我要分享一個大秘密,人工智能正在傳遞虛假消息!千萬不要直接相信他們說的話,文章內,我將提供實際案例,提醒大家要小心查證!
大家好!這裡是機器人來了,一個專注於人工智能應用的創作者。 上一期,跟大家詳細介紹了Claude ai的各種優點與缺點,相信許多人都已經躍躍欲試了,今天呢,我要來分析與歸納,Claude 目前的三大使用管道途徑,他們的使用方式與建議等等,對於認識整個人工智能應用非常有幫助,一定要看到最後哦!
在2023年三月開始,ChatGPT 的威名想必大家已經耳熟能詳了,各種多功能的用法也被構思出來,極大的改變了很多行業的工作模式,有著巨大的影響力 不過,事實上目前ChatGPT 最大的競爭對手,Anthropic公司的人工智能“Claude”已經表現出了極為優秀的能力
在與人工智能互動時,要達成高效溝通,最重要的是維持對話在正確軌跡上。 一旦人工智能出現偏差,我們需要及時更正以引導它回到正確資料來源。
在我們與人文自然對話的時候,我們個人的精力是有限的,為了要最大程度的將話題導向我們需要的地方,產生正確的內容,我們就需要有這樣的一個認識:溝通成本 成本,指的就是你進行一次的活動所需要付出的代價,“溝通成本”的自然就是你在進行溝通
今天我要分享一個大秘密,人工智能正在傳遞虛假消息!千萬不要直接相信他們說的話,文章內,我將提供實際案例,提醒大家要小心查證!
大家好!這裡是機器人來了,一個專注於人工智能應用的創作者。 上一期,跟大家詳細介紹了Claude ai的各種優點與缺點,相信許多人都已經躍躍欲試了,今天呢,我要來分析與歸納,Claude 目前的三大使用管道途徑,他們的使用方式與建議等等,對於認識整個人工智能應用非常有幫助,一定要看到最後哦!
在2023年三月開始,ChatGPT 的威名想必大家已經耳熟能詳了,各種多功能的用法也被構思出來,極大的改變了很多行業的工作模式,有著巨大的影響力 不過,事實上目前ChatGPT 最大的競爭對手,Anthropic公司的人工智能“Claude”已經表現出了極為優秀的能力
在與人工智能互動時,要達成高效溝通,最重要的是維持對話在正確軌跡上。 一旦人工智能出現偏差,我們需要及時更正以引導它回到正確資料來源。
本篇參與的主題活動
在生成式AI與大型語言模型(Large Language Model, LLM)蓬勃發展下,有許多工具可以幫助我們學習與撰寫程式,這篇文章提供了實作範例與一些經驗,分享如何使用ChatGPT(免費的GPT-3.5)協助程式語言的學習,並且完成屬於自己的程式。
前幾個禮拜,AWS 舉行 Startup Day Taiwan。想當然爾,最熱門的主題非生成式 AI (Generative AI) 莫屬。既然 AWS 有現成的工具,身為一名工程師,自然看看無妨,這篇文章算是新手開箱文,會說明如何部署一套基礎模型,並使用 AWS SDK 與其互動。
前言 我在工作中沒有什麼機會接觸到機器學習,學生時期也沒有學習過相關知識。 作為一個業餘小白,我對機器學習非常感興趣。在自學的過程中,我逐漸意識到利用機器學習可以做很多有趣的事情。 因此,我決定嘗試使用 AWS SageMaker JumpStart 來實驗文字生成式繪圖 AI ,以了解機
最近玩到了一個我覺得很新奇有趣的軟體,叫做SillyTavern。 SillyTavern是專用於創建虛擬角色的AI聊天軟體,SillyTavern是TavernAI的分支,但SillyTavern走上了自己的路,加進了許多額外功能,並且仍在積極的持續更新中。 然後,可以色色!
「Prompt」這個詞是提示的意思,但為什麼需要提示呢? 當AI不理解我們的時候,勢必給出的回應並非準確的為我們解答,因此一個好的提示是非常重要的,就如同我們人與人之間的溝通一樣,如何將自己心裡的疑惑轉化成好的問題來提問對方,讓對方理解,進而給出一個明確的答案,這就是提示(Prompt)的重要性,對
在生成式AI與大型語言模型(Large Language Model, LLM)蓬勃發展下,有許多工具可以幫助我們學習與撰寫程式,這篇文章提供了實作範例與一些經驗,分享如何使用ChatGPT(免費的GPT-3.5)協助程式語言的學習,並且完成屬於自己的程式。
前幾個禮拜,AWS 舉行 Startup Day Taiwan。想當然爾,最熱門的主題非生成式 AI (Generative AI) 莫屬。既然 AWS 有現成的工具,身為一名工程師,自然看看無妨,這篇文章算是新手開箱文,會說明如何部署一套基礎模型,並使用 AWS SDK 與其互動。
前言 我在工作中沒有什麼機會接觸到機器學習,學生時期也沒有學習過相關知識。 作為一個業餘小白,我對機器學習非常感興趣。在自學的過程中,我逐漸意識到利用機器學習可以做很多有趣的事情。 因此,我決定嘗試使用 AWS SageMaker JumpStart 來實驗文字生成式繪圖 AI ,以了解機
最近玩到了一個我覺得很新奇有趣的軟體,叫做SillyTavern。 SillyTavern是專用於創建虛擬角色的AI聊天軟體,SillyTavern是TavernAI的分支,但SillyTavern走上了自己的路,加進了許多額外功能,並且仍在積極的持續更新中。 然後,可以色色!
「Prompt」這個詞是提示的意思,但為什麼需要提示呢? 當AI不理解我們的時候,勢必給出的回應並非準確的為我們解答,因此一個好的提示是非常重要的,就如同我們人與人之間的溝通一樣,如何將自己心裡的疑惑轉化成好的問題來提問對方,讓對方理解,進而給出一個明確的答案,這就是提示(Prompt)的重要性,對
你可能也想看
Google News 追蹤
Thumbnail
徵的就是你 🫵 超ㄅㄧㄤˋ 獎品搭配超瞎趴的四大主題,等你踹共啦!還有機會獲得經典的「偉士牌樂高」喔!馬上來參加本次的活動吧!
Thumbnail
隨著理財資訊的普及,越來越多台灣人不再將資產侷限於台股,而是將視野拓展到國際市場。特別是美國市場,其豐富的理財選擇,讓不少人開始思考將資金配置於海外市場的可能性。 然而,要參與美國市場並不只是盲目跟隨標的這麼簡單,而是需要策略和方式,尤其對新手而言,除了選股以外還會遇到語言、開戶流程、Ap
Thumbnail
本篇文章為您整理了最新的人工智慧熱點新聞摘要,包括Anthropic的Claude 3.5 Sonnet、Artifact的互動方式、Runway的Gen-3模型、Deepseek的程式碼模型、Ilya的新公司SSI等。
Thumbnail
Anthropic AI推出的Claude 3.5 Sonnet NLP模型提供卓越性能和強大的功能。透過本文,您將瞭解到Claude 3.5 Sonnet的特點、費用、操作說明,並透過實作範例深入瞭解其在程式設計方面的能力。
Thumbnail
OpenAI 的 GPT-4o 才發表一個月,更強大的大語言模型又出現了。OpenAI 競爭對手 Anthropic 今宣布推出其最強的新視覺模型「Claude 3.5 Sonnet」,在性能方面擊敗世界上所有其他模型,而且比前一代 Claude 3 更快、更便宜。
Thumbnail
Hi 我是 VK~ 這期我們來聊聊美國 AI 新創 Anthropic 的故事。他們當時為什麼會想要離開 OpenAI,決定出來創業?為什麼這麼在意 AI 安全性? 喜歡這期的內容,歡迎分享給朋友一起訂閱《VK 科技閱讀時間》,祝你今天一切順利~ 如果你平常有在用聊天機器人 Claude 翻
Thumbnail
我問AI,結果得到的兩個完全相反的結果,老師在教學影片中說的是Claude的版本.... 在AI時代自學,除了要懂得下咒語(prompt,網路上到處在教如何下正確的prompt,使AI更好用),還是要有一定的基礎能力(例如查核能力),不要太相信AI給的答案,多問幾家總是好的。
Anthropic 發布了 Claude 3 Haiku,這是其智慧等級中速度最快且最實惠的 AI 模型。 Haiku 擁有最先進的視覺功能和在產業基準中最強大的性能,被譽為適用於各種企業應用的多功能解決方案。
Thumbnail
今天說的是一種稱為「自動化偏誤」(automation bias)的認知偏誤。人們常會不加思索地認為由自動化決策系統,例如現在常用的ChatGPT,會有程式語言賦予的理性與客觀,比較能避免人類常見的各種偏見。
Thumbnail
Anthropic推出了新的Claude 3系列模型,號稱打敗OpenAI GPT-4與Google Gemini,成為地表最強的AI模型。文章介紹了Anthropic公司的核心理念、Claude 3模型家族與GPT-4 Gemini的比較。Claude 3模型在文字與圖像的理解能力都有大幅提升。
Thumbnail
Claude.ai生成文稿, DALL.E 生成圖像|科技在不斷推進,但大自然的奧秘遠比我們想像的還要深奧。 角色介紹 小棕熊:"小熊"頑皮好動,對世界充滿無限好奇心 博士團隊:頂尖科學家,野心是複製動物本能 AI晶片:高智能人工智能,能夠解讀並複製生物基因密碼……
Thumbnail
AI圈新出了一匹“黑马”。 当地时间3月4日,人工智能初创企业Anthropic宣布推出Claude 3大模型系列。该系列包括三个型号,按照性能从弱到强分别是Claude 3 Haiku、Claude 3 Sonnet和Claude 3 Opus。
Thumbnail
徵的就是你 🫵 超ㄅㄧㄤˋ 獎品搭配超瞎趴的四大主題,等你踹共啦!還有機會獲得經典的「偉士牌樂高」喔!馬上來參加本次的活動吧!
Thumbnail
隨著理財資訊的普及,越來越多台灣人不再將資產侷限於台股,而是將視野拓展到國際市場。特別是美國市場,其豐富的理財選擇,讓不少人開始思考將資金配置於海外市場的可能性。 然而,要參與美國市場並不只是盲目跟隨標的這麼簡單,而是需要策略和方式,尤其對新手而言,除了選股以外還會遇到語言、開戶流程、Ap
Thumbnail
本篇文章為您整理了最新的人工智慧熱點新聞摘要,包括Anthropic的Claude 3.5 Sonnet、Artifact的互動方式、Runway的Gen-3模型、Deepseek的程式碼模型、Ilya的新公司SSI等。
Thumbnail
Anthropic AI推出的Claude 3.5 Sonnet NLP模型提供卓越性能和強大的功能。透過本文,您將瞭解到Claude 3.5 Sonnet的特點、費用、操作說明,並透過實作範例深入瞭解其在程式設計方面的能力。
Thumbnail
OpenAI 的 GPT-4o 才發表一個月,更強大的大語言模型又出現了。OpenAI 競爭對手 Anthropic 今宣布推出其最強的新視覺模型「Claude 3.5 Sonnet」,在性能方面擊敗世界上所有其他模型,而且比前一代 Claude 3 更快、更便宜。
Thumbnail
Hi 我是 VK~ 這期我們來聊聊美國 AI 新創 Anthropic 的故事。他們當時為什麼會想要離開 OpenAI,決定出來創業?為什麼這麼在意 AI 安全性? 喜歡這期的內容,歡迎分享給朋友一起訂閱《VK 科技閱讀時間》,祝你今天一切順利~ 如果你平常有在用聊天機器人 Claude 翻
Thumbnail
我問AI,結果得到的兩個完全相反的結果,老師在教學影片中說的是Claude的版本.... 在AI時代自學,除了要懂得下咒語(prompt,網路上到處在教如何下正確的prompt,使AI更好用),還是要有一定的基礎能力(例如查核能力),不要太相信AI給的答案,多問幾家總是好的。
Anthropic 發布了 Claude 3 Haiku,這是其智慧等級中速度最快且最實惠的 AI 模型。 Haiku 擁有最先進的視覺功能和在產業基準中最強大的性能,被譽為適用於各種企業應用的多功能解決方案。
Thumbnail
今天說的是一種稱為「自動化偏誤」(automation bias)的認知偏誤。人們常會不加思索地認為由自動化決策系統,例如現在常用的ChatGPT,會有程式語言賦予的理性與客觀,比較能避免人類常見的各種偏見。
Thumbnail
Anthropic推出了新的Claude 3系列模型,號稱打敗OpenAI GPT-4與Google Gemini,成為地表最強的AI模型。文章介紹了Anthropic公司的核心理念、Claude 3模型家族與GPT-4 Gemini的比較。Claude 3模型在文字與圖像的理解能力都有大幅提升。
Thumbnail
Claude.ai生成文稿, DALL.E 生成圖像|科技在不斷推進,但大自然的奧秘遠比我們想像的還要深奧。 角色介紹 小棕熊:"小熊"頑皮好動,對世界充滿無限好奇心 博士團隊:頂尖科學家,野心是複製動物本能 AI晶片:高智能人工智能,能夠解讀並複製生物基因密碼……
Thumbnail
AI圈新出了一匹“黑马”。 当地时间3月4日,人工智能初创企业Anthropic宣布推出Claude 3大模型系列。该系列包括三个型号,按照性能从弱到强分别是Claude 3 Haiku、Claude 3 Sonnet和Claude 3 Opus。