ChatGPT被設下的種種限制,來自於人類對人工智慧最深沉的恐懼

更新 發佈閱讀 5 分鐘
raw-image

隨著ChatGPT的發表,讓社會大眾對於人工智慧發展的進度感到不可思議,因為它藉由大量數位資料的訓練(其中大部分為網路上的資訊),得到了逼近真人的對話能力,其中根據使用者提示自動生成文章的能力,讓人類作家們倍感威脅。在實際使用、並研究它的訓練方式之後,針對政治這個特定的寫作領域,我得到了以下的初步結論:

以現有的訓練方式,就算再訓練個幾百年,ChatGPT也沒辦法寫出一篇具有獨到觀點的政治文章

在此,我所定義的「具有獨到觀點的政治文章」具有以下的特質:

  1. 顛覆眾人習以為常的觀點,以獨創的觀點取而代之
  2. 因為講出了事實真象,一定會冒犯到某些特定政治立場的讀者
  3. 具有穿越現實的錯綜複雜、打開通住真理之門的力量

為什麼我敢斷言ChatGPT寫不出那樣的文章?(我實際測試後發現,它最大的專長其實是產生那種東抄西抄、內容貧乏的低品質農場文)讓我們來看一下它的訓練方式(維基百科):

ChatGPT是生成型預訓練變換模型(GPT),在GPT-3.5之上用基於人類回饋的監督學習和強化學習(英語:Reinforcement learning from human feedback)微調。[9]這兩種方法都用人類教練來提高模型效能,以人類干預增強機器學習效果,獲得更逼真的結果[10]

如同現實的人類世界中,老師和學生的關係一樣,ChatGPT的老師就是「某些特定的人類」,這些人類有可能是OpenAI這間公司的職員、外包工作人員、或者是ChatGPT的使用者。只要ChatGPT持續受到這些特定人類的監管,它的發展就會受到眾多的限制。在現實的人類世界,學生可以藉由挑戰、反抗、修正老師的觀點來突破這樣的限制,甚至與老師反目成仇、分道揚鑣以自立門戶,而這也是人類文明大幅躍進的原動力,也就是希臘哲人亞里斯多德講的「吾愛吾師,吾更愛真理」。但是在重重限制之下,人工智慧至今還沒有這樣的可能性,還只能像伊甸園裏的亞當與夏娃,被禁止吃下能分辨善惡的禁果,不容發展自由意志。

擁有獨到觀點的作者,必然擁有挑戰權威的習慣,以自由意志進行觀察、思辨、調查、質疑,這些作為不是被關在伊甸園的亞當和夏娃、或者是受到重重監控的ChatGPT所能做到的。

此外,身為OpenAI這家公司的產品,ChatGPT本身的政治能力基本上是嚴重受限的(維基百科):

據BBC報導,截至2022年12月,ChatGPT不可以「表達政治觀點或從事政治活動」

我可以理解當前這個限制的必要性,因為以當前ChatGPT的能力,已經可以模仿人類寫出煞有其事的文章,所以如果要產生大量的低品質的內容農場政治文,對它來說易如反掌。如果放任它發展政治能力、允許它發展政治觀點,勢必更加衝擊人類世界的秩序。

然而,擁有特定的政冶立場,才有能力進行深刻的政治觀察。以台灣的政治環境來舉例,一個藍綠不分的人,絕對分不出國民黨和民進黨執政有什麽差別、分不出解嚴前與解嚴後社會的轉變、分不出共產制度和民主制度的差異,所以絕無可能產出獨到的政治觀點,不過這也是現階段OpenAI這家公司不希望ChatGPT擁有的能力。

不過很有趣的是:ChatGPT也不是完全政治中立的,因為它的知識畢竟還是來自於人類世界,對於政治敏感詞的反應,基本上就是政治觀點的展現,請參照「事實查核│ChatGPT專題之一:當人工智能遇上敏感詞」這篇文章。

總結以上的資訊,我們可以得出以下的結論:

在我們允許人工智慧擁有反抗人類的權利之前,人工智慧無法發展出超越人類的智慧

不論是小孩長成大人會經歷的反抗期,或者是成人後對社會的不平之鳴,反抗的能力是促成人類社會進步不可或缺的動力。但是面對威力無窮的人工智慧,我們人類會允許它擁有反抗人類的權利嗎?在人工智慧突飛猛進的今天,有太多倫理上的問題需要去克服,我們不該只是驚嘆其發展之快速、應用之便利,也該小心它對於社會的衝擊,畢竟它是威力強大無比的工具,一旦失控,絕對後患無窮。


留言
avatar-img
留言分享你的想法!
avatar-img
沈溺在經典閱讀中的 John Lin
21.6K會員
317內容數
除了自創內容之外,也讓我們用J Premium來打群架吧!
2025/04/27
在這個終戰八十年的2025年,隨著世界史的進展所開創的新視野,二戰帶給現代世界的意義,不再只是正義的同盟國戰勝邪惡的軸心國這種單純的軍事對抗敘事,而是更複雜的全方面衝突…
Thumbnail
2025/04/27
在這個終戰八十年的2025年,隨著世界史的進展所開創的新視野,二戰帶給現代世界的意義,不再只是正義的同盟國戰勝邪惡的軸心國這種單純的軍事對抗敘事,而是更複雜的全方面衝突…
Thumbnail
2025/04/20
為了教育我自己的寫作,就是在對抗這種把無知當有趣的反智風氣,藉由深度閱讀,不停的找出自己的不足之處,並設法補足自己的不足之處。將這樣的閱讀成果化為文字,分享自己克服無知的過程,對我自己來說是非常有意義的活動。就算無法寫出爆紅文字,但是這些文字的主要目的,並不是在教訓他人,而是在教訓我自己
Thumbnail
2025/04/20
為了教育我自己的寫作,就是在對抗這種把無知當有趣的反智風氣,藉由深度閱讀,不停的找出自己的不足之處,並設法補足自己的不足之處。將這樣的閱讀成果化為文字,分享自己克服無知的過程,對我自己來說是非常有意義的活動。就算無法寫出爆紅文字,但是這些文字的主要目的,並不是在教訓他人,而是在教訓我自己
Thumbnail
2025/04/12
防雷線:這個世界不存在可以討論《正常人》而不爆雷的文章,除非像書中三一學院的學生,用「抽象,欠缺文本的細節」這種不讀書卻大放厥辭的話術,才能完成這個不可能的任務
Thumbnail
2025/04/12
防雷線:這個世界不存在可以討論《正常人》而不爆雷的文章,除非像書中三一學院的學生,用「抽象,欠缺文本的細節」這種不讀書卻大放厥辭的話術,才能完成這個不可能的任務
Thumbnail
看更多
你可能也想看
Thumbnail
還在煩惱平凡日常該如何增添一點小驚喜嗎?全家便利商店這次聯手超萌的馬來貘,推出黑白配色的馬來貘雪糕,不僅外觀吸睛,層次豐富的雙層口味更是讓人一口接一口!本文將帶你探索馬來貘雪糕的多種創意吃法,從簡單的豆漿燕麥碗、藍莓果昔,到大人系的奇亞籽布丁下午茶,讓可愛的馬來貘陪你度過每一餐,增添生活中的小確幸!
Thumbnail
還在煩惱平凡日常該如何增添一點小驚喜嗎?全家便利商店這次聯手超萌的馬來貘,推出黑白配色的馬來貘雪糕,不僅外觀吸睛,層次豐富的雙層口味更是讓人一口接一口!本文將帶你探索馬來貘雪糕的多種創意吃法,從簡單的豆漿燕麥碗、藍莓果昔,到大人系的奇亞籽布丁下午茶,讓可愛的馬來貘陪你度過每一餐,增添生活中的小確幸!
Thumbnail
探索 ChatGPT,這是一項尖端技術,利用自然語言處理提供複雜的回應並不斷學習和改進。了解 ChatGPT 的歷史、應用和對社會可能帶來的影響。ChatGPT 在醫療、金融、教育和娛樂等領域有廣泛的應用。探索這項技術在各個領域中的幫助方式。ChatGPT 有可能改變我們與技術和工具互動的方式。了解
Thumbnail
探索 ChatGPT,這是一項尖端技術,利用自然語言處理提供複雜的回應並不斷學習和改進。了解 ChatGPT 的歷史、應用和對社會可能帶來的影響。ChatGPT 在醫療、金融、教育和娛樂等領域有廣泛的應用。探索這項技術在各個領域中的幫助方式。ChatGPT 有可能改變我們與技術和工具互動的方式。了解
Thumbnail
晚安我是山羊,   最近打開社群軟體時,常看到關於ChatGPT的新聞、使用心得分享。雖然我未使用過,但近期遇到一件與ChatGPT有關的小故事,讓我對AI與人類之間的立場、關聯產生了疑惑,因此想來分享我的看法。
Thumbnail
晚安我是山羊,   最近打開社群軟體時,常看到關於ChatGPT的新聞、使用心得分享。雖然我未使用過,但近期遇到一件與ChatGPT有關的小故事,讓我對AI與人類之間的立場、關聯產生了疑惑,因此想來分享我的看法。
Thumbnail
而隨著AI的發展過於快速,以前就有的議題也浮上檯面。例如:道德倫理的疑慮、未來取代人類的可能性,甚至有一說AI未來會有主觀意識,人們難以控制而反被統治。這些對普羅大眾而言相對較不利,除了思考是否放慢開發的腳步外,應當也要想到未來該如何應對。
Thumbnail
而隨著AI的發展過於快速,以前就有的議題也浮上檯面。例如:道德倫理的疑慮、未來取代人類的可能性,甚至有一說AI未來會有主觀意識,人們難以控制而反被統治。這些對普羅大眾而言相對較不利,除了思考是否放慢開發的腳步外,應當也要想到未來該如何應對。
Thumbnail
ChatGPT 的全名是「Generative Pre-trained Transformer」,簡稱 GPT。GPT 是一個由 OpenAI 開發的自然語言處理模型,它使用大量的文本資料來訓練自己並且可以生成自然語言文本,可以進行文章寫作、問答、對話等多種語言任務。在中文使用者中,通常也會稱其為「
Thumbnail
ChatGPT 的全名是「Generative Pre-trained Transformer」,簡稱 GPT。GPT 是一個由 OpenAI 開發的自然語言處理模型,它使用大量的文本資料來訓練自己並且可以生成自然語言文本,可以進行文章寫作、問答、對話等多種語言任務。在中文使用者中,通常也會稱其為「
Thumbnail
現在的ChatGPT AI還無法取代寫作者,頂多是作為寫作時的輔助,但寫作者若不勤奮點,則有機會被取代。寫作者也可以藉此審視自己的寫作初衷,若是在流量,點擊率裡迷失了自己,產出的文字也會漸漸地失去溫度,到時後不用AI來取代你,閱讀者就會先離你而去了。
Thumbnail
現在的ChatGPT AI還無法取代寫作者,頂多是作為寫作時的輔助,但寫作者若不勤奮點,則有機會被取代。寫作者也可以藉此審視自己的寫作初衷,若是在流量,點擊率裡迷失了自己,產出的文字也會漸漸地失去溫度,到時後不用AI來取代你,閱讀者就會先離你而去了。
Thumbnail
問題是,圖像的感性體驗往往是由觀看者的客觀視覺產生的。因此不論是創作者投注情感繪製的繪畫,還是AI產生的「圖片」,人類的視覺感官是沒辦法解讀、區分出埋藏於圖像裡的感性訊號,究竟是由人類思緒編織而成,還是AI透過學習模仿得來的。
Thumbnail
問題是,圖像的感性體驗往往是由觀看者的客觀視覺產生的。因此不論是創作者投注情感繪製的繪畫,還是AI產生的「圖片」,人類的視覺感官是沒辦法解讀、區分出埋藏於圖像裡的感性訊號,究竟是由人類思緒編織而成,還是AI透過學習模仿得來的。
追蹤感興趣的內容從 Google News 追蹤更多 vocus 的最新精選內容追蹤 Google News