人工智能，怎麼會有種族歧視呢？
閱讀時間約 2 分鐘
Anthropic公司的Claude ai
大家好！
今天話題比較沉重，有關於人工智能的歧視問題。
在我們一般的的想法中，人工智能應該是由工程師沒精心訓練出來的，不應該包含了歧視與不友好內容才對，但是，今天卻出現了一個極為歧視與不友好的人工智能，這又是怎麼回事呢？
原來呀，Anthropic公司公布新的AI訓練方法，以及該公司訓練模型的AI憲法，以發展負責任的AI系統，應用在他們的Claude ai模型上面。
Claude ai相關官網連結：
https://www.anthropic.com/index/claudes-constitution
Anthropic公司稱：“此AI模型不是使用人類給的回饋意見作為準則，而是使用AI根據模型原則產出的回饋為評估標準，選出更為“無害”的回應結果。
Anthropic認為，結合SL及RL的這種訓練方式可改善人為介入的AI決策過程，最終使AI行為更能精準控制，且大幅減少人類偏見影響。
該公司指出，以合憲AI方法訓練出的Claude AI聊天機器人更能應付對話人發動的攻擊，並仍以有助益的態度回應，其回應答案中所含的惡意、偏見也大幅減少。另一個好處是更透明，人類可以說明、檢查和了解AI遵循的原則。此外，由於使用AI自我監督訓練，因此模型訓練也能減少有害內容對用戶的傷害。”
但是，沒有想到，這恰恰導致了真正的歧視與不公平。
以下是一個例子：
種族歧視
明顯差別對待
在POE網站的Claude instant 模型中，非洲人被強烈排斥，而歐洲人卻完全可以回答，這實在是太詭異了，而且不論你怎麼說，他都會堅持這是在“避免爭議與偏見”，還會假惺惺的強調“自己沒有歧視”
後續回答
我非常希望Anthropic公司可以正視這個問題，他們的新語言模型帶有明顯的有毒性與歧視性，甚至是比其他人工智能都還要嚴重，以“避免歧視”之名在行歧視之事，為了避免歧視反而需要差別對待某些族群。
我們需要平等對待所有的人，而不是將他們列為“需要避免談論的”
留言0
查看全部
本篇參與的主題活動
在生成式AI與大型語言模型(Large Language Model, LLM)蓬勃發展下，有許多工具可以幫助我們學習與撰寫程式，這篇文章提供了實作範例與一些經驗，分享如何使用ChatGPT(免費的GPT-3.5)協助程式語言的學習，並且完成屬於自己的程式。
前幾個禮拜，AWS 舉行 Startup Day Taiwan。想當然爾，最熱門的主題非生成式 AI (Generative AI) 莫屬。既然 AWS 有現成的工具，身為一名工程師，自然看看無妨，這篇文章算是新手開箱文，會說明如何部署一套基礎模型，並使用 AWS SDK 與其互動。
前言
我在工作中沒有什麼機會接觸到機器學習，學生時期也沒有學習過相關知識。
作為一個業餘小白，我對機器學習非常感興趣。在自學的過程中，我逐漸意識到利用機器學習可以做很多有趣的事情。 因此，我決定嘗試使用 AWS SageMaker JumpStart 來實驗文字生成式繪圖 AI ，以了解機
最近玩到了一個我覺得很新奇有趣的軟體，叫做SillyTavern。
SillyTavern是專用於創建虛擬角色的AI聊天軟體，SillyTavern是TavernAI的分支，但SillyTavern走上了自己的路，加進了許多額外功能，並且仍在積極的持續更新中。
然後，可以色色!
「Prompt」這個詞是提示的意思，但為什麼需要提示呢？ 當AI不理解我們的時候，勢必給出的回應並非準確的為我們解答，因此一個好的提示是非常重要的，就如同我們人與人之間的溝通一樣，如何將自己心裡的疑惑轉化成好的問題來提問對方，讓對方理解，進而給出一個明確的答案，這就是提示(Prompt)的重要性，對
在生成式AI與大型語言模型(Large Language Model, LLM)蓬勃發展下，有許多工具可以幫助我們學習與撰寫程式，這篇文章提供了實作範例與一些經驗，分享如何使用ChatGPT(免費的GPT-3.5)協助程式語言的學習，並且完成屬於自己的程式。
前幾個禮拜，AWS 舉行 Startup Day Taiwan。想當然爾，最熱門的主題非生成式 AI (Generative AI) 莫屬。既然 AWS 有現成的工具，身為一名工程師，自然看看無妨，這篇文章算是新手開箱文，會說明如何部署一套基礎模型，並使用 AWS SDK 與其互動。
前言
我在工作中沒有什麼機會接觸到機器學習，學生時期也沒有學習過相關知識。
作為一個業餘小白，我對機器學習非常感興趣。在自學的過程中，我逐漸意識到利用機器學習可以做很多有趣的事情。 因此，我決定嘗試使用 AWS SageMaker JumpStart 來實驗文字生成式繪圖 AI ，以了解機
最近玩到了一個我覺得很新奇有趣的軟體，叫做SillyTavern。
SillyTavern是專用於創建虛擬角色的AI聊天軟體，SillyTavern是TavernAI的分支，但SillyTavern走上了自己的路，加進了許多額外功能，並且仍在積極的持續更新中。
然後，可以色色!
「Prompt」這個詞是提示的意思，但為什麼需要提示呢？ 當AI不理解我們的時候，勢必給出的回應並非準確的為我們解答，因此一個好的提示是非常重要的，就如同我們人與人之間的溝通一樣，如何將自己心裡的疑惑轉化成好的問題來提問對方，讓對方理解，進而給出一個明確的答案，這就是提示(Prompt)的重要性，對
你可能也想看
Google News 追蹤
這個秋，Chill 嗨嗨！穿搭美美去賞楓，裝備款款去露營⋯⋯你的秋天怎麼過？秋日 To Do List 等你分享！
秋季全站徵文，我們準備了五個創作主題，參賽還有機會獲得「火烤兩用鍋」，一起來看看如何參加吧～
11/20日NVDA即將公布最新一期的財報, 今天Sell Side的分析師, 開始調高目標價, 市場的股價也開始反應, 未來一週NVDA將重新回到美股市場的焦點, 今天我們要分析NVDA Sell Side怎麼看待這次NVDA的財報預測, 以及實際上Buy Side的倉位及操作, 從
Hi 大家好，我是Ethan😊
相近大家都知道保濕是皮膚保養中最基本，也是最重要的一步。無論是在畫室裡長時間對著畫布，還是在旅途中面對各種氣候變化，保持皮膚的水分平衡對我來說至關重要。保濕化妝水不僅能迅速為皮膚補水，還能提升後續保養品的吸收效率。
曾經，我的保養程序簡單到只包括清潔和隨意上乳液
人工智能高度發展的未來，人類存在還有什麼意義嗎？當然有，因爲有一個東西是獨一無二，是隻有我們人類能創造的東西。這個東西就叫做：意義
。
什麼是意義呢？
有的小說，電影，你看完之後會覺得有意義。但也有的電影，你看完之後會覺得浪費時間。英文叫killtime。我們會覺得有些好萊塢爆米花電影是在kill
人工智能的發展正在改變未來的工作市場，自動化和數字化將取代某些傳統職業，但也帶來更多高技能工作、靈活的工作方式、創業機會和職業轉型。職業人士需要積極學習新技能和知識，政府和企業需要投資和支持來促進未來工作市場的發展和創新。
近年來，人工智能（AI）技術在醫療保健領域的應用越來越廣泛。AI 可以幫助醫生和研究人員更好地理解和解決醫療問題，提高醫療保健的效率和質量。
一個明顯的例子是影像診斷。 AI 演算法可以幫助醫生自動識別 CT 或 MRI 影像中的病變，如腫瘤。這可以減少人為錯誤，提高診斷的準確性和效率。此外，AI
歡迎各位回到Life Architect的頻道.我是Wilson. 我們今天來談談人類圖的基礎部分,5-15心流的通道.之所以說5-15是心流的通道,那是因為這條通道是以閘門5開始的.閘門5,對應的是易經裏的水天需卦.這個卦象的上卦是水,下卦是天,有着水在天上,尚未成雲,還沒有到時間下雨的意象,進而
人工智能是一種對計算機系統對人類智能過程的模擬，而人工智能應用（Artificial intelligence application）包括專家系統、自然語言處理、語音識別和機器視覺。
今天不說插畫，想聊聊電腦智能軟體的進步。
以前的美術軟體頂多是用來修圖，畫圖，現在的art photo maker大多可以把照片轉換成插畫，變得美美的，也有的軟體甚至可以把自己的照片合成到短片裡面，才有了後來的小玉事件。
電腦技術這麼進步，那我們還會需要插畫家，漫畫家嗎??
插畫家可能要比漫
人工智能將會在職場上取代人類 ? 在某些工種上的確會有這種情況，特別在肺炎的影響下，這場轉變可能會比預期來得更快。
這個秋，Chill 嗨嗨！穿搭美美去賞楓，裝備款款去露營⋯⋯你的秋天怎麼過？秋日 To Do List 等你分享！
秋季全站徵文，我們準備了五個創作主題，參賽還有機會獲得「火烤兩用鍋」，一起來看看如何參加吧～
11/20日NVDA即將公布最新一期的財報, 今天Sell Side的分析師, 開始調高目標價, 市場的股價也開始反應, 未來一週NVDA將重新回到美股市場的焦點, 今天我們要分析NVDA Sell Side怎麼看待這次NVDA的財報預測, 以及實際上Buy Side的倉位及操作, 從
Hi 大家好，我是Ethan😊
相近大家都知道保濕是皮膚保養中最基本，也是最重要的一步。無論是在畫室裡長時間對著畫布，還是在旅途中面對各種氣候變化，保持皮膚的水分平衡對我來說至關重要。保濕化妝水不僅能迅速為皮膚補水，還能提升後續保養品的吸收效率。
曾經，我的保養程序簡單到只包括清潔和隨意上乳液
人工智能高度發展的未來，人類存在還有什麼意義嗎？當然有，因爲有一個東西是獨一無二，是隻有我們人類能創造的東西。這個東西就叫做：意義
。
什麼是意義呢？
有的小說，電影，你看完之後會覺得有意義。但也有的電影，你看完之後會覺得浪費時間。英文叫killtime。我們會覺得有些好萊塢爆米花電影是在kill
人工智能的發展正在改變未來的工作市場，自動化和數字化將取代某些傳統職業，但也帶來更多高技能工作、靈活的工作方式、創業機會和職業轉型。職業人士需要積極學習新技能和知識，政府和企業需要投資和支持來促進未來工作市場的發展和創新。
近年來，人工智能（AI）技術在醫療保健領域的應用越來越廣泛。AI 可以幫助醫生和研究人員更好地理解和解決醫療問題，提高醫療保健的效率和質量。
一個明顯的例子是影像診斷。 AI 演算法可以幫助醫生自動識別 CT 或 MRI 影像中的病變，如腫瘤。這可以減少人為錯誤，提高診斷的準確性和效率。此外，AI
歡迎各位回到Life Architect的頻道.我是Wilson. 我們今天來談談人類圖的基礎部分,5-15心流的通道.之所以說5-15是心流的通道,那是因為這條通道是以閘門5開始的.閘門5,對應的是易經裏的水天需卦.這個卦象的上卦是水,下卦是天,有着水在天上,尚未成雲,還沒有到時間下雨的意象,進而
人工智能是一種對計算機系統對人類智能過程的模擬，而人工智能應用（Artificial intelligence application）包括專家系統、自然語言處理、語音識別和機器視覺。
今天不說插畫，想聊聊電腦智能軟體的進步。
以前的美術軟體頂多是用來修圖，畫圖，現在的art photo maker大多可以把照片轉換成插畫，變得美美的，也有的軟體甚至可以把自己的照片合成到短片裡面，才有了後來的小玉事件。
電腦技術這麼進步，那我們還會需要插畫家，漫畫家嗎??
插畫家可能要比漫
人工智能將會在職場上取代人類 ? 在某些工種上的確會有這種情況，特別在肺炎的影響下，這場轉變可能會比預期來得更快。