更新於 2023/04/15發佈於 2023/04/15閱讀時間約 4 分鐘

ChatGPT被設下的種種限制，來自於人類對人工智慧最深沉的恐懼

隨著ChatGPT的發表，讓社會大眾對於人工智慧發展的進度感到不可思議，因為它藉由大量數位資料的訓練（其中大部分為網路上的資訊），得到了逼近真人的對話能力，其中根據使用者提示自動生成文章的能力，讓人類作家們倍感威脅。在實際使用、並研究它的訓練方式之後，針對政治這個特定的寫作領域，我得到了以下的初步結論：

以現有的訓練方式，就算再訓練個幾百年，ChatGPT也沒辦法寫出一篇具有獨到觀點的政治文章

在此，我所定義的「具有獨到觀點的政治文章」具有以下的特質：

顛覆眾人習以為常的觀點，以獨創的觀點取而代之
因為講出了事實真象，一定會冒犯到某些特定政治立場的讀者
具有穿越現實的錯綜複雜、打開通住真理之門的力量

為什麼我敢斷言ChatGPT寫不出那樣的文章？（我實際測試後發現，它最大的專長其實是產生那種東抄西抄、內容貧乏的低品質農場文）讓我們來看一下它的訓練方式（維基百科）：

ChatGPT是生成型預訓練變換模型（GPT），在GPT-3.5之上用基於人類回饋的監督學習和強化學習（英語：Reinforcement learning from human feedback）微調。[9]這兩種方法都用人類教練來提高模型效能，以人類干預增強機器學習效果，獲得更逼真的結果[10]

如同現實的人類世界中，老師和學生的關係一樣，ChatGPT的老師就是「某些特定的人類」，這些人類有可能是OpenAI這間公司的職員、外包工作人員、或者是ChatGPT的使用者。只要ChatGPT持續受到這些特定人類的監管，它的發展就會受到眾多的限制。在現實的人類世界，學生可以藉由挑戰、反抗、修正老師的觀點來突破這樣的限制，甚至與老師反目成仇、分道揚鑣以自立門戶，而這也是人類文明大幅躍進的原動力，也就是希臘哲人亞里斯多德講的「吾愛吾師，吾更愛真理」。但是在重重限制之下，人工智慧至今還沒有這樣的可能性，還只能像伊甸園裏的亞當與夏娃，被禁止吃下能分辨善惡的禁果，不容發展自由意志。

擁有獨到觀點的作者，必然擁有挑戰權威的習慣，以自由意志進行觀察、思辨、調查、質疑，這些作為不是被關在伊甸園的亞當和夏娃、或者是受到重重監控的ChatGPT所能做到的。

此外，身為OpenAI這家公司的產品，ChatGPT本身的政治能力基本上是嚴重受限的（維基百科）：

據BBC報導，截至2022年12月，ChatGPT不可以「表達政治觀點或從事政治活動」

我可以理解當前這個限制的必要性，因為以當前ChatGPT的能力，已經可以模仿人類寫出煞有其事的文章，所以如果要產生大量的低品質的內容農場政治文，對它來說易如反掌。如果放任它發展政治能力、允許它發展政治觀點，勢必更加衝擊人類世界的秩序。

然而，擁有特定的政冶立場，才有能力進行深刻的政治觀察。以台灣的政治環境來舉例，一個藍綠不分的人，絕對分不出國民黨和民進黨執政有什麽差別、分不出解嚴前與解嚴後社會的轉變、分不出共產制度和民主制度的差異，所以絕無可能產出獨到的政治觀點，不過這也是現階段OpenAI這家公司不希望ChatGPT擁有的能力。

不過很有趣的是：ChatGPT也不是完全政治中立的，因為它的知識畢竟還是來自於人類世界，對於政治敏感詞的反應，基本上就是政治觀點的展現，請參照「事實查核│ChatGPT專題之一：當人工智能遇上敏感詞」這篇文章。

總結以上的資訊，我們可以得出以下的結論：

在我們允許人工智慧擁有反抗人類的權利之前，人工智慧無法發展出超越人類的智慧

不論是小孩長成大人會經歷的反抗期，或者是成人後對社會的不平之鳴，反抗的能力是促成人類社會進步不可或缺的動力。但是面對威力無窮的人工智慧，我們人類會允許它擁有反抗人類的權利嗎？在人工智慧突飛猛進的今天，有太多倫理上的問題需要去克服，我們不該只是驚嘆其發展之快速、應用之便利，也該小心它對於社會的衝擊，畢竟它是威力強大無比的工具，一旦失控，絕對後患無窮。

分享至

成為作者繼續創作的動力吧！

討論區

追蹤

付費閱讀

從 Google News 追蹤更多 vocus 的最新精選內容

作者的相關文章

讓佛光山成為政治團體的關鍵，來自於號稱「問政不干治」的星雲法師

沈溺在經典閱讀中的 John Lin 的其他內容

你可能也想看

發表回應

成為會員後即可發表留言