ChatGPT被設下的種種限制,來自於人類對人工智慧最深沉的恐懼

更新於 發佈於 閱讀時間約 5 分鐘
raw-image

隨著ChatGPT的發表,讓社會大眾對於人工智慧發展的進度感到不可思議,因為它藉由大量數位資料的訓練(其中大部分為網路上的資訊),得到了逼近真人的對話能力,其中根據使用者提示自動生成文章的能力,讓人類作家們倍感威脅。在實際使用、並研究它的訓練方式之後,針對政治這個特定的寫作領域,我得到了以下的初步結論:

以現有的訓練方式,就算再訓練個幾百年,ChatGPT也沒辦法寫出一篇具有獨到觀點的政治文章

在此,我所定義的「具有獨到觀點的政治文章」具有以下的特質:

  1. 顛覆眾人習以為常的觀點,以獨創的觀點取而代之
  2. 因為講出了事實真象,一定會冒犯到某些特定政治立場的讀者
  3. 具有穿越現實的錯綜複雜、打開通住真理之門的力量

為什麼我敢斷言ChatGPT寫不出那樣的文章?(我實際測試後發現,它最大的專長其實是產生那種東抄西抄、內容貧乏的低品質農場文)讓我們來看一下它的訓練方式(維基百科):

ChatGPT是生成型預訓練變換模型(GPT),在GPT-3.5之上用基於人類回饋的監督學習和強化學習(英語:Reinforcement learning from human feedback)微調。[9]這兩種方法都用人類教練來提高模型效能,以人類干預增強機器學習效果,獲得更逼真的結果[10]

如同現實的人類世界中,老師和學生的關係一樣,ChatGPT的老師就是「某些特定的人類」,這些人類有可能是OpenAI這間公司的職員、外包工作人員、或者是ChatGPT的使用者。只要ChatGPT持續受到這些特定人類的監管,它的發展就會受到眾多的限制。在現實的人類世界,學生可以藉由挑戰、反抗、修正老師的觀點來突破這樣的限制,甚至與老師反目成仇、分道揚鑣以自立門戶,而這也是人類文明大幅躍進的原動力,也就是希臘哲人亞里斯多德講的「吾愛吾師,吾更愛真理」。但是在重重限制之下,人工智慧至今還沒有這樣的可能性,還只能像伊甸園裏的亞當與夏娃,被禁止吃下能分辨善惡的禁果,不容發展自由意志。

擁有獨到觀點的作者,必然擁有挑戰權威的習慣,以自由意志進行觀察、思辨、調查、質疑,這些作為不是被關在伊甸園的亞當和夏娃、或者是受到重重監控的ChatGPT所能做到的。

此外,身為OpenAI這家公司的產品,ChatGPT本身的政治能力基本上是嚴重受限的(維基百科):

據BBC報導,截至2022年12月,ChatGPT不可以「表達政治觀點或從事政治活動」

我可以理解當前這個限制的必要性,因為以當前ChatGPT的能力,已經可以模仿人類寫出煞有其事的文章,所以如果要產生大量的低品質的內容農場政治文,對它來說易如反掌。如果放任它發展政治能力、允許它發展政治觀點,勢必更加衝擊人類世界的秩序。

然而,擁有特定的政冶立場,才有能力進行深刻的政治觀察。以台灣的政治環境來舉例,一個藍綠不分的人,絕對分不出國民黨和民進黨執政有什麽差別、分不出解嚴前與解嚴後社會的轉變、分不出共產制度和民主制度的差異,所以絕無可能產出獨到的政治觀點,不過這也是現階段OpenAI這家公司不希望ChatGPT擁有的能力。

不過很有趣的是:ChatGPT也不是完全政治中立的,因為它的知識畢竟還是來自於人類世界,對於政治敏感詞的反應,基本上就是政治觀點的展現,請參照「事實查核│ChatGPT專題之一:當人工智能遇上敏感詞」這篇文章。

總結以上的資訊,我們可以得出以下的結論:

在我們允許人工智慧擁有反抗人類的權利之前,人工智慧無法發展出超越人類的智慧

不論是小孩長成大人會經歷的反抗期,或者是成人後對社會的不平之鳴,反抗的能力是促成人類社會進步不可或缺的動力。但是面對威力無窮的人工智慧,我們人類會允許它擁有反抗人類的權利嗎?在人工智慧突飛猛進的今天,有太多倫理上的問題需要去克服,我們不該只是驚嘆其發展之快速、應用之便利,也該小心它對於社會的衝擊,畢竟它是威力強大無比的工具,一旦失控,絕對後患無窮。


留言
avatar-img
留言分享你的想法!
MaxJames-avatar-img
2023/04/30
覺得AI反叛還要段時間,現階段我會比較擔心人類工作被AI取代後,對整體社會造成的衝擊問題XD
MaxJames 最大的問題還是因為AI發展速度太快了,產生了新的典範轉移,以往擔心的、感覺上很久後才會發生的問題,一下子就被推到眼前,逼得我們要迫切的回應、解決這些問題。我認為「訓練所造成的偏差」一定要先解決,不然產生出一堆內心充滿種族歧視、厭女、邊緣人格的AI,一定會傷害人類社會
野口夏-avatar-img
2023/04/22
哎啊!看到精采處,結果就關門了!
野口夏 加入Vocus Premium就不會有這個困擾了(顯示為在商言商模式…)
我自己對於AI的擔心,應該有部分來自電影看太多的結果,覺得AI可能會發展出自己的智慧(反叛?),不過如果是這層的擔心,好像也是有那麼一點可能性(看過一次原理,只是沒有全懂,所以也表達不太出來就是了)
黃懿翎 Yi-Ling Huang 其實就跟人類的養成類似,必須要有自由意志才能有創造力,現在ChatGPT的政治能力是被封印的,代表即使是現在這種填鴨訓練法,人工智慧還是產生了一定程度的政治立場,這是令人擔心的
avatar-img
沈溺在經典閱讀中的 John Lin
18.5K會員
296內容數
除了自創內容之外,也讓我們用J Premium來打群架吧!
2025/04/27
在這個終戰八十年的2025年,隨著世界史的進展所開創的新視野,二戰帶給現代世界的意義,不再只是正義的同盟國戰勝邪惡的軸心國這種單純的軍事對抗敘事,而是更複雜的全方面衝突…
Thumbnail
2025/04/27
在這個終戰八十年的2025年,隨著世界史的進展所開創的新視野,二戰帶給現代世界的意義,不再只是正義的同盟國戰勝邪惡的軸心國這種單純的軍事對抗敘事,而是更複雜的全方面衝突…
Thumbnail
2025/04/20
為了教育我自己的寫作,就是在對抗這種把無知當有趣的反智風氣,藉由深度閱讀,不停的找出自己的不足之處,並設法補足自己的不足之處。將這樣的閱讀成果化為文字,分享自己克服無知的過程,對我自己來說是非常有意義的活動。就算無法寫出爆紅文字,但是這些文字的主要目的,並不是在教訓他人,而是在教訓我自己
Thumbnail
2025/04/20
為了教育我自己的寫作,就是在對抗這種把無知當有趣的反智風氣,藉由深度閱讀,不停的找出自己的不足之處,並設法補足自己的不足之處。將這樣的閱讀成果化為文字,分享自己克服無知的過程,對我自己來說是非常有意義的活動。就算無法寫出爆紅文字,但是這些文字的主要目的,並不是在教訓他人,而是在教訓我自己
Thumbnail
2025/04/12
防雷線:這個世界不存在可以討論《正常人》而不爆雷的文章,除非像書中三一學院的學生,用「抽象,欠缺文本的細節」這種不讀書卻大放厥辭的話術,才能完成這個不可能的任務
Thumbnail
2025/04/12
防雷線:這個世界不存在可以討論《正常人》而不爆雷的文章,除非像書中三一學院的學生,用「抽象,欠缺文本的細節」這種不讀書卻大放厥辭的話術,才能完成這個不可能的任務
Thumbnail
看更多
你可能也想看
Thumbnail
每年4月、5月都是最多稅要繳的月份,當然大部份的人都是有機會繳到「綜合所得稅」,只是相當相當多人還不知道,原來繳給政府的稅!可以透過一些有活動的銀行信用卡或電子支付來繳,從繳費中賺一點點小確幸!就是賺個1%~2%大家也是很開心的,因為你們把沒回饋變成有回饋,就是用卡的最高境界 所得稅線上申報
Thumbnail
每年4月、5月都是最多稅要繳的月份,當然大部份的人都是有機會繳到「綜合所得稅」,只是相當相當多人還不知道,原來繳給政府的稅!可以透過一些有活動的銀行信用卡或電子支付來繳,從繳費中賺一點點小確幸!就是賺個1%~2%大家也是很開心的,因為你們把沒回饋變成有回饋,就是用卡的最高境界 所得稅線上申報
Thumbnail
全球科技產業的焦點,AKA 全村的希望 NVIDIA,於五月底正式發布了他們在今年 2025 第一季的財報 (輝達內部財務年度為 2026 Q1,實際日曆期間為今年二到四月),交出了打敗了市場預期的成績單。然而,在銷售持續高速成長的同時,川普政府加大對於中國的晶片管制......
Thumbnail
全球科技產業的焦點,AKA 全村的希望 NVIDIA,於五月底正式發布了他們在今年 2025 第一季的財報 (輝達內部財務年度為 2026 Q1,實際日曆期間為今年二到四月),交出了打敗了市場預期的成績單。然而,在銷售持續高速成長的同時,川普政府加大對於中國的晶片管制......
Thumbnail
重點摘要: 6 月繼續維持基準利率不變,強調維持高利率主因為關稅 點陣圖表現略為鷹派,收斂 2026、2027 年降息預期 SEP 連續 2 季下修 GDP、上修通膨預測值 --- 1.繼續維持利率不變,強調需要維持高利率是因為關稅: 聯準會 (Fed) 召開 6 月利率會議
Thumbnail
重點摘要: 6 月繼續維持基準利率不變,強調維持高利率主因為關稅 點陣圖表現略為鷹派,收斂 2026、2027 年降息預期 SEP 連續 2 季下修 GDP、上修通膨預測值 --- 1.繼續維持利率不變,強調需要維持高利率是因為關稅: 聯準會 (Fed) 召開 6 月利率會議
Thumbnail
探索 ChatGPT,這是一項尖端技術,利用自然語言處理提供複雜的回應並不斷學習和改進。了解 ChatGPT 的歷史、應用和對社會可能帶來的影響。ChatGPT 在醫療、金融、教育和娛樂等領域有廣泛的應用。探索這項技術在各個領域中的幫助方式。ChatGPT 有可能改變我們與技術和工具互動的方式。了解
Thumbnail
探索 ChatGPT,這是一項尖端技術,利用自然語言處理提供複雜的回應並不斷學習和改進。了解 ChatGPT 的歷史、應用和對社會可能帶來的影響。ChatGPT 在醫療、金融、教育和娛樂等領域有廣泛的應用。探索這項技術在各個領域中的幫助方式。ChatGPT 有可能改變我們與技術和工具互動的方式。了解
Thumbnail
晚安我是山羊,   最近打開社群軟體時,常看到關於ChatGPT的新聞、使用心得分享。雖然我未使用過,但近期遇到一件與ChatGPT有關的小故事,讓我對AI與人類之間的立場、關聯產生了疑惑,因此想來分享我的看法。
Thumbnail
晚安我是山羊,   最近打開社群軟體時,常看到關於ChatGPT的新聞、使用心得分享。雖然我未使用過,但近期遇到一件與ChatGPT有關的小故事,讓我對AI與人類之間的立場、關聯產生了疑惑,因此想來分享我的看法。
Thumbnail
而隨著AI的發展過於快速,以前就有的議題也浮上檯面。例如:道德倫理的疑慮、未來取代人類的可能性,甚至有一說AI未來會有主觀意識,人們難以控制而反被統治。這些對普羅大眾而言相對較不利,除了思考是否放慢開發的腳步外,應當也要想到未來該如何應對。
Thumbnail
而隨著AI的發展過於快速,以前就有的議題也浮上檯面。例如:道德倫理的疑慮、未來取代人類的可能性,甚至有一說AI未來會有主觀意識,人們難以控制而反被統治。這些對普羅大眾而言相對較不利,除了思考是否放慢開發的腳步外,應當也要想到未來該如何應對。
Thumbnail
ChatGPT 的全名是「Generative Pre-trained Transformer」,簡稱 GPT。GPT 是一個由 OpenAI 開發的自然語言處理模型,它使用大量的文本資料來訓練自己並且可以生成自然語言文本,可以進行文章寫作、問答、對話等多種語言任務。在中文使用者中,通常也會稱其為「
Thumbnail
ChatGPT 的全名是「Generative Pre-trained Transformer」,簡稱 GPT。GPT 是一個由 OpenAI 開發的自然語言處理模型,它使用大量的文本資料來訓練自己並且可以生成自然語言文本,可以進行文章寫作、問答、對話等多種語言任務。在中文使用者中,通常也會稱其為「
Thumbnail
現在的ChatGPT AI還無法取代寫作者,頂多是作為寫作時的輔助,但寫作者若不勤奮點,則有機會被取代。寫作者也可以藉此審視自己的寫作初衷,若是在流量,點擊率裡迷失了自己,產出的文字也會漸漸地失去溫度,到時後不用AI來取代你,閱讀者就會先離你而去了。
Thumbnail
現在的ChatGPT AI還無法取代寫作者,頂多是作為寫作時的輔助,但寫作者若不勤奮點,則有機會被取代。寫作者也可以藉此審視自己的寫作初衷,若是在流量,點擊率裡迷失了自己,產出的文字也會漸漸地失去溫度,到時後不用AI來取代你,閱讀者就會先離你而去了。
Thumbnail
問題是,圖像的感性體驗往往是由觀看者的客觀視覺產生的。因此不論是創作者投注情感繪製的繪畫,還是AI產生的「圖片」,人類的視覺感官是沒辦法解讀、區分出埋藏於圖像裡的感性訊號,究竟是由人類思緒編織而成,還是AI透過學習模仿得來的。
Thumbnail
問題是,圖像的感性體驗往往是由觀看者的客觀視覺產生的。因此不論是創作者投注情感繪製的繪畫,還是AI產生的「圖片」,人類的視覺感官是沒辦法解讀、區分出埋藏於圖像裡的感性訊號,究竟是由人類思緒編織而成,還是AI透過學習模仿得來的。
Thumbnail
OpenAI 推出 AI Text Classifier 以區分文本是AI 或是人類編寫的。但該工具限制在於主要針對英文文本,並且至少要1000字。因此,針對中文文本或是不滿1000字符,則可以考慮用ChatGPT檢測文本,本文將以中文和英文的人類和AI產生的文本進行測試,看看ChatGPT能否猜對
Thumbnail
OpenAI 推出 AI Text Classifier 以區分文本是AI 或是人類編寫的。但該工具限制在於主要針對英文文本,並且至少要1000字。因此,針對中文文本或是不滿1000字符,則可以考慮用ChatGPT檢測文本,本文將以中文和英文的人類和AI產生的文本進行測試,看看ChatGPT能否猜對
Thumbnail
人工智慧(AI)是近年來發展迅速的一個技術,剛開始討論時大家都在想像會不會有一天人類的工作被它取代,但因AI的發展涉及許多領域,包括自然語言處理、計算視覺、強化學習等還需要許多時間醞釀才成得了氣候,使得我們老神在在,覺得就算會被取代,也只是低階的重複性工作,畢竟人性才是人類工作最核心的價值,不是嗎?
Thumbnail
人工智慧(AI)是近年來發展迅速的一個技術,剛開始討論時大家都在想像會不會有一天人類的工作被它取代,但因AI的發展涉及許多領域,包括自然語言處理、計算視覺、強化學習等還需要許多時間醞釀才成得了氣候,使得我們老神在在,覺得就算會被取代,也只是低階的重複性工作,畢竟人性才是人類工作最核心的價值,不是嗎?
追蹤感興趣的內容從 Google News 追蹤更多 vocus 的最新精選內容追蹤 Google News