ChatGPT被設下的種種限制,來自於人類對人工智慧最深沉的恐懼

更新 發佈閱讀 5 分鐘
raw-image

隨著ChatGPT的發表,讓社會大眾對於人工智慧發展的進度感到不可思議,因為它藉由大量數位資料的訓練(其中大部分為網路上的資訊),得到了逼近真人的對話能力,其中根據使用者提示自動生成文章的能力,讓人類作家們倍感威脅。在實際使用、並研究它的訓練方式之後,針對政治這個特定的寫作領域,我得到了以下的初步結論:

以現有的訓練方式,就算再訓練個幾百年,ChatGPT也沒辦法寫出一篇具有獨到觀點的政治文章

在此,我所定義的「具有獨到觀點的政治文章」具有以下的特質:

  1. 顛覆眾人習以為常的觀點,以獨創的觀點取而代之
  2. 因為講出了事實真象,一定會冒犯到某些特定政治立場的讀者
  3. 具有穿越現實的錯綜複雜、打開通住真理之門的力量

為什麼我敢斷言ChatGPT寫不出那樣的文章?(我實際測試後發現,它最大的專長其實是產生那種東抄西抄、內容貧乏的低品質農場文)讓我們來看一下它的訓練方式(維基百科):

ChatGPT是生成型預訓練變換模型(GPT),在GPT-3.5之上用基於人類回饋的監督學習和強化學習(英語:Reinforcement learning from human feedback)微調。[9]這兩種方法都用人類教練來提高模型效能,以人類干預增強機器學習效果,獲得更逼真的結果[10]

如同現實的人類世界中,老師和學生的關係一樣,ChatGPT的老師就是「某些特定的人類」,這些人類有可能是OpenAI這間公司的職員、外包工作人員、或者是ChatGPT的使用者。只要ChatGPT持續受到這些特定人類的監管,它的發展就會受到眾多的限制。在現實的人類世界,學生可以藉由挑戰、反抗、修正老師的觀點來突破這樣的限制,甚至與老師反目成仇、分道揚鑣以自立門戶,而這也是人類文明大幅躍進的原動力,也就是希臘哲人亞里斯多德講的「吾愛吾師,吾更愛真理」。但是在重重限制之下,人工智慧至今還沒有這樣的可能性,還只能像伊甸園裏的亞當與夏娃,被禁止吃下能分辨善惡的禁果,不容發展自由意志。

擁有獨到觀點的作者,必然擁有挑戰權威的習慣,以自由意志進行觀察、思辨、調查、質疑,這些作為不是被關在伊甸園的亞當和夏娃、或者是受到重重監控的ChatGPT所能做到的。

此外,身為OpenAI這家公司的產品,ChatGPT本身的政治能力基本上是嚴重受限的(維基百科):

據BBC報導,截至2022年12月,ChatGPT不可以「表達政治觀點或從事政治活動」

我可以理解當前這個限制的必要性,因為以當前ChatGPT的能力,已經可以模仿人類寫出煞有其事的文章,所以如果要產生大量的低品質的內容農場政治文,對它來說易如反掌。如果放任它發展政治能力、允許它發展政治觀點,勢必更加衝擊人類世界的秩序。

然而,擁有特定的政冶立場,才有能力進行深刻的政治觀察。以台灣的政治環境來舉例,一個藍綠不分的人,絕對分不出國民黨和民進黨執政有什麽差別、分不出解嚴前與解嚴後社會的轉變、分不出共產制度和民主制度的差異,所以絕無可能產出獨到的政治觀點,不過這也是現階段OpenAI這家公司不希望ChatGPT擁有的能力。

不過很有趣的是:ChatGPT也不是完全政治中立的,因為它的知識畢竟還是來自於人類世界,對於政治敏感詞的反應,基本上就是政治觀點的展現,請參照「事實查核│ChatGPT專題之一:當人工智能遇上敏感詞」這篇文章。

總結以上的資訊,我們可以得出以下的結論:

在我們允許人工智慧擁有反抗人類的權利之前,人工智慧無法發展出超越人類的智慧

不論是小孩長成大人會經歷的反抗期,或者是成人後對社會的不平之鳴,反抗的能力是促成人類社會進步不可或缺的動力。但是面對威力無窮的人工智慧,我們人類會允許它擁有反抗人類的權利嗎?在人工智慧突飛猛進的今天,有太多倫理上的問題需要去克服,我們不該只是驚嘆其發展之快速、應用之便利,也該小心它對於社會的衝擊,畢竟它是威力強大無比的工具,一旦失控,絕對後患無窮。


留言
avatar-img
沈溺在經典閱讀中的 John Lin
24.1K會員
338內容數
除了自創內容之外,也讓我們用J Premium來打群架吧!
2025/04/27
在這個終戰八十年的2025年,隨著世界史的進展所開創的新視野,二戰帶給現代世界的意義,不再只是正義的同盟國戰勝邪惡的軸心國這種單純的軍事對抗敘事,而是更複雜的全方面衝突…
Thumbnail
2025/04/27
在這個終戰八十年的2025年,隨著世界史的進展所開創的新視野,二戰帶給現代世界的意義,不再只是正義的同盟國戰勝邪惡的軸心國這種單純的軍事對抗敘事,而是更複雜的全方面衝突…
Thumbnail
2025/04/20
為了教育我自己的寫作,就是在對抗這種把無知當有趣的反智風氣,藉由深度閱讀,不停的找出自己的不足之處,並設法補足自己的不足之處。將這樣的閱讀成果化為文字,分享自己克服無知的過程,對我自己來說是非常有意義的活動。就算無法寫出爆紅文字,但是這些文字的主要目的,並不是在教訓他人,而是在教訓我自己
Thumbnail
2025/04/20
為了教育我自己的寫作,就是在對抗這種把無知當有趣的反智風氣,藉由深度閱讀,不停的找出自己的不足之處,並設法補足自己的不足之處。將這樣的閱讀成果化為文字,分享自己克服無知的過程,對我自己來說是非常有意義的活動。就算無法寫出爆紅文字,但是這些文字的主要目的,並不是在教訓他人,而是在教訓我自己
Thumbnail
2025/04/12
防雷線:這個世界不存在可以討論《正常人》而不爆雷的文章,除非像書中三一學院的學生,用「抽象,欠缺文本的細節」這種不讀書卻大放厥辭的話術,才能完成這個不可能的任務
Thumbnail
2025/04/12
防雷線:這個世界不存在可以討論《正常人》而不爆雷的文章,除非像書中三一學院的學生,用「抽象,欠缺文本的細節」這種不讀書卻大放厥辭的話術,才能完成這個不可能的任務
Thumbnail
看更多
你可能也想看
Thumbnail
在 vocus 與你一起探索內容、發掘靈感的路上,我們又將啟動新的冒險——vocus App 正式推出! 現在起,你可以在 iOS App Store 下載全新上架的 vocus App。 無論是在通勤路上、日常空檔,或一天結束後的放鬆時刻,都能自在沈浸在內容宇宙中。
Thumbnail
在 vocus 與你一起探索內容、發掘靈感的路上,我們又將啟動新的冒險——vocus App 正式推出! 現在起,你可以在 iOS App Store 下載全新上架的 vocus App。 無論是在通勤路上、日常空檔,或一天結束後的放鬆時刻,都能自在沈浸在內容宇宙中。
Thumbnail
vocus 慶祝推出 App,舉辦 2026 全站慶。推出精選內容與數位商品折扣,訂單免費與紅包抽獎、新註冊會員專屬活動、Boba Boost 贊助抽紅包,以及全站徵文,並邀請你一起來回顧過去的一年, vocus 與創作者共同留下了哪些精彩創作。
Thumbnail
vocus 慶祝推出 App,舉辦 2026 全站慶。推出精選內容與數位商品折扣,訂單免費與紅包抽獎、新註冊會員專屬活動、Boba Boost 贊助抽紅包,以及全站徵文,並邀請你一起來回顧過去的一年, vocus 與創作者共同留下了哪些精彩創作。
Thumbnail
探索 ChatGPT,這是一項尖端技術,利用自然語言處理提供複雜的回應並不斷學習和改進。了解 ChatGPT 的歷史、應用和對社會可能帶來的影響。ChatGPT 在醫療、金融、教育和娛樂等領域有廣泛的應用。探索這項技術在各個領域中的幫助方式。ChatGPT 有可能改變我們與技術和工具互動的方式。了解
Thumbnail
探索 ChatGPT,這是一項尖端技術,利用自然語言處理提供複雜的回應並不斷學習和改進。了解 ChatGPT 的歷史、應用和對社會可能帶來的影響。ChatGPT 在醫療、金融、教育和娛樂等領域有廣泛的應用。探索這項技術在各個領域中的幫助方式。ChatGPT 有可能改變我們與技術和工具互動的方式。了解
Thumbnail
晚安我是山羊,   最近打開社群軟體時,常看到關於ChatGPT的新聞、使用心得分享。雖然我未使用過,但近期遇到一件與ChatGPT有關的小故事,讓我對AI與人類之間的立場、關聯產生了疑惑,因此想來分享我的看法。
Thumbnail
晚安我是山羊,   最近打開社群軟體時,常看到關於ChatGPT的新聞、使用心得分享。雖然我未使用過,但近期遇到一件與ChatGPT有關的小故事,讓我對AI與人類之間的立場、關聯產生了疑惑,因此想來分享我的看法。
Thumbnail
而隨著AI的發展過於快速,以前就有的議題也浮上檯面。例如:道德倫理的疑慮、未來取代人類的可能性,甚至有一說AI未來會有主觀意識,人們難以控制而反被統治。這些對普羅大眾而言相對較不利,除了思考是否放慢開發的腳步外,應當也要想到未來該如何應對。
Thumbnail
而隨著AI的發展過於快速,以前就有的議題也浮上檯面。例如:道德倫理的疑慮、未來取代人類的可能性,甚至有一說AI未來會有主觀意識,人們難以控制而反被統治。這些對普羅大眾而言相對較不利,除了思考是否放慢開發的腳步外,應當也要想到未來該如何應對。
Thumbnail
ChatGPT 的全名是「Generative Pre-trained Transformer」,簡稱 GPT。GPT 是一個由 OpenAI 開發的自然語言處理模型,它使用大量的文本資料來訓練自己並且可以生成自然語言文本,可以進行文章寫作、問答、對話等多種語言任務。在中文使用者中,通常也會稱其為「
Thumbnail
ChatGPT 的全名是「Generative Pre-trained Transformer」,簡稱 GPT。GPT 是一個由 OpenAI 開發的自然語言處理模型,它使用大量的文本資料來訓練自己並且可以生成自然語言文本,可以進行文章寫作、問答、對話等多種語言任務。在中文使用者中,通常也會稱其為「
Thumbnail
現在的ChatGPT AI還無法取代寫作者,頂多是作為寫作時的輔助,但寫作者若不勤奮點,則有機會被取代。寫作者也可以藉此審視自己的寫作初衷,若是在流量,點擊率裡迷失了自己,產出的文字也會漸漸地失去溫度,到時後不用AI來取代你,閱讀者就會先離你而去了。
Thumbnail
現在的ChatGPT AI還無法取代寫作者,頂多是作為寫作時的輔助,但寫作者若不勤奮點,則有機會被取代。寫作者也可以藉此審視自己的寫作初衷,若是在流量,點擊率裡迷失了自己,產出的文字也會漸漸地失去溫度,到時後不用AI來取代你,閱讀者就會先離你而去了。
Thumbnail
問題是,圖像的感性體驗往往是由觀看者的客觀視覺產生的。因此不論是創作者投注情感繪製的繪畫,還是AI產生的「圖片」,人類的視覺感官是沒辦法解讀、區分出埋藏於圖像裡的感性訊號,究竟是由人類思緒編織而成,還是AI透過學習模仿得來的。
Thumbnail
問題是,圖像的感性體驗往往是由觀看者的客觀視覺產生的。因此不論是創作者投注情感繪製的繪畫,還是AI產生的「圖片」,人類的視覺感官是沒辦法解讀、區分出埋藏於圖像裡的感性訊號,究竟是由人類思緒編織而成,還是AI透過學習模仿得來的。
Thumbnail
OpenAI 推出 AI Text Classifier 以區分文本是AI 或是人類編寫的。但該工具限制在於主要針對英文文本,並且至少要1000字。因此,針對中文文本或是不滿1000字符,則可以考慮用ChatGPT檢測文本,本文將以中文和英文的人類和AI產生的文本進行測試,看看ChatGPT能否猜對
Thumbnail
OpenAI 推出 AI Text Classifier 以區分文本是AI 或是人類編寫的。但該工具限制在於主要針對英文文本,並且至少要1000字。因此,針對中文文本或是不滿1000字符,則可以考慮用ChatGPT檢測文本,本文將以中文和英文的人類和AI產生的文本進行測試,看看ChatGPT能否猜對
Thumbnail
人工智慧(AI)是近年來發展迅速的一個技術,剛開始討論時大家都在想像會不會有一天人類的工作被它取代,但因AI的發展涉及許多領域,包括自然語言處理、計算視覺、強化學習等還需要許多時間醞釀才成得了氣候,使得我們老神在在,覺得就算會被取代,也只是低階的重複性工作,畢竟人性才是人類工作最核心的價值,不是嗎?
Thumbnail
人工智慧(AI)是近年來發展迅速的一個技術,剛開始討論時大家都在想像會不會有一天人類的工作被它取代,但因AI的發展涉及許多領域,包括自然語言處理、計算視覺、強化學習等還需要許多時間醞釀才成得了氣候,使得我們老神在在,覺得就算會被取代,也只是低階的重複性工作,畢竟人性才是人類工作最核心的價值,不是嗎?
Thumbnail
相信這個大家最近都有看到新聞,就是OepnAI這個基金會提出了一個新的AI模型ChatGPT,這個ChatGPT跟以往的AI模型不太一樣,基本上輸入很多問題都可以獲得解答,而且回答得語氣跟人類很像。 同時這個ChatGPT很厲害的事情,包含可以產出程式、幫助回覆程式問題、產出行銷文案、演講大綱等等,
Thumbnail
相信這個大家最近都有看到新聞,就是OepnAI這個基金會提出了一個新的AI模型ChatGPT,這個ChatGPT跟以往的AI模型不太一樣,基本上輸入很多問題都可以獲得解答,而且回答得語氣跟人類很像。 同時這個ChatGPT很厲害的事情,包含可以產出程式、幫助回覆程式問題、產出行銷文案、演講大綱等等,
追蹤感興趣的內容從 Google News 追蹤更多 vocus 的最新精選內容追蹤 Google News