ChatGPT被設下的種種限制，來自於人類對人工智慧最深沉的恐懼
隨著ChatGPT的發表，讓社會大眾對於人工智慧發展的進度感到不可思議，因為它藉由大量數位資料的訓練（其中大部分為網路上的資訊），得到了逼近真人的對話能力，其中根據使用者提示自動生成文章的能力，讓人類作家們倍感威脅。在實際使用、並研究它的訓練方式之後，針對政治這個特定的寫作領域，我得到了以下的初步結論：
以現有的訓練方式，就算再訓練個幾百年，ChatGPT也沒辦法寫出一篇具有獨到觀點的政治文章
在此，我所定義的「具有獨到觀點的政治文章」具有以下的特質：
- 顛覆眾人習以為常的觀點，以獨創的觀點取而代之
- 因為講出了事實真象，一定會冒犯到某些特定政治立場的讀者
- 具有穿越現實的錯綜複雜、打開通住真理之門的力量
為什麼我敢斷言ChatGPT寫不出那樣的文章？（我實際測試後發現，它最大的專長其實是產生那種東抄西抄、內容貧乏的低品質農場文）讓我們來看一下它的訓練方式（維基百科）：
ChatGPT是生成型預訓練變換模型（GPT），在GPT-3.5之上用基於人類回饋的監督學習和強化學習（英語：Reinforcement learning from human feedback）微調。[9]這兩種方法都用人類教練來提高模型效能，以人類干預增強機器學習效果，獲得更逼真的結果[10]
如同現實的人類世界中，老師和學生的關係一樣，ChatGPT的老師就是「某些特定的人類」，這些人類有可能是OpenAI這間公司的職員、外包工作人員、或者是ChatGPT的使用者。只要ChatGPT持續受到這些特定人類的監管，它的發展就會受到眾多的限制。在現實的人類世界，學生可以藉由挑戰、反抗、修正老師的觀點來突破這樣的限制，甚至與老師反目成仇、分道揚鑣以自立門戶，而這也是人類文明大幅躍進的原動力，也就是希臘哲人亞里斯多德講的「吾愛吾師，吾更愛真理」。但是在重重限制之下，人工智慧至今還沒有這樣的可能性，還只能像伊甸園裏的亞當與夏娃，被禁止吃下能分辨善惡的禁果，不容發展自由意志。
擁有獨到觀點的作者，必然擁有挑戰權威的習慣，以自由意志進行觀察、思辨、調查、質疑，這些作為不是被關在伊甸園的亞當和夏娃、或者是受到重重監控的ChatGPT所能做到的。
此外，身為OpenAI這家公司的產品，ChatGPT本身的政治能力基本上是嚴重受限的（維基百科）：
據BBC報導，截至2022年12月，ChatGPT不可以「表達政治觀點或從事政治活動」
我可以理解當前這個限制的必要性，因為以當前ChatGPT的能力，已經可以模仿人類寫出煞有其事的文章，所以如果要產生大量的低品質的內容農場政治文，對它來說易如反掌。如果放任它發展政治能力、允許它發展政治觀點，勢必更加衝擊人類世界的秩序。
然而，擁有特定的政冶立場，才有能力進行深刻的政治觀察。以台灣的政治環境來舉例，一個藍綠不分的人，絕對分不出國民黨和民進黨執政有什麽差別、分不出解嚴前與解嚴後社會的轉變、分不出共產制度和民主制度的差異，所以絕無可能產出獨到的政治觀點，不過這也是現階段OpenAI這家公司不希望ChatGPT擁有的能力。
不過很有趣的是：ChatGPT也不是完全政治中立的，因為它的知識畢竟還是來自於人類世界，對於政治敏感詞的反應，基本上就是政治觀點的展現，請參照「事實查核│ChatGPT專題之一：當人工智能遇上敏感詞」這篇文章。
總結以上的資訊，我們可以得出以下的結論：
在我們允許人工智慧擁有反抗人類的權利之前，人工智慧無法發展出超越人類的智慧
不論是小孩長成大人會經歷的反抗期，或者是成人後對社會的不平之鳴，反抗的能力是促成人類社會進步不可或缺的動力。但是面對威力無窮的人工智慧，我們人類會允許它擁有反抗人類的權利嗎？在人工智慧突飛猛進的今天，有太多倫理上的問題需要去克服，我們不該只是驚嘆其發展之快速、應用之便利，也該小心它對於社會的衝擊，畢竟它是威力強大無比的工具，一旦失控，絕對後患無窮。
即將進入廣告，捲動後可繼續閱讀
為什麼會看到廣告
留言0
查看全部
你可能也想看
Google News 追蹤
現代社會跟以前不同了，人人都有一支手機，只要打開就可以獲得各種資訊。過去想要辦卡或是開戶就要跑一趟銀行，然而如今科技快速發展之下，金融App無聲無息地進到你生活中。但同樣的，每一家銀行都有自己的App時，我們又該如何選擇呢？(本文係由國泰世華銀行邀約)
今天我會用不同角度帶大家看這款國泰世華CUB
嘿，大家新年快樂~ 新年大家都在做什麼呢？
跨年夜的我趕工製作某個外包設計案，在工作告一段落時趕上倒數。
然後和兩個小孩過了一個忙亂的元旦。在深夜時刻，看到朋友傳來的解籤網站，興致勃勃熬夜體驗了一下，覺得非常好玩，或許有人玩過了，但還是想寫上來分享紀錄一下~
ChatGPT作為一個重要的創作和交流工具，對創作的過程和結果產生了深遠的影響。本文將深入探討使用ChatGPT進行創作的正反說法，從各個角度分析這些意見，並提出其未來的發展方向。
因為網路上充斥著 是是而非的資訊，公說公有理 婆說婆有理，我發現我的價值觀開始有點混淆，心中有許多問題 不知道真正的答案是甚麼？突然 想到最近的AI新科技-ChatGPT 或許可以解答我內心的困惑。所以我試著與ChatGPT進行對話，沒想到ChatGPT 的回覆 完全可以解答我心中的疑惑。
我們人類和ChatGPT的對話技巧也是需要學習的，有鑑於此，我想要一天分享一點「和ChatGPT對話的技術」，並且每篇文章長度控制在三分鐘以內，讓大家不會壓力太大，但是又能夠每天成長一點。
人工智慧的未來是以使用者為中心，個人在與人工智慧系統的互動中扮演著越來越重要的角色。預計這種趨勢將催生被
資本主義將人工智慧視為增加利潤和控制勞動力的工具，而不是改善勞動人民生活的方式。(具有諷刺意味的是，上面這幾句話不是我自己寫的，而是新的「聊天機器人」ChatGPT在得到以下提示後寫的。)
而我的 AI-Gemini 較中立 :
對設備自動化在資本主義社會中的影響的擔憂是可以理解的。
ChatGPT（全名：聊天生成預訓練轉換器）是一個由 OpenAI 開發的人工智慧聊天機器人程式。它於 2022 年 11 月推出，使用了基於 GPT-3.5、GPT-4 和 GPT-4o 架構的大型語言模型，並以強化學習進行訓練。
在當今數位時代，人工智慧的應用已經漸漸融入到我們的生活中，而 ChatGPT 作為其中的一個代表，為創作提供了嶄新的可能性。ChatGPT 是一個強大的語言模型，能夠生成自然流暢的文本，並且可以根據用戶的需求進行調整，為創作者提供豐富多樣的創作素材和靈感。那麼，究竟如何利用 ChatGPT 創作呢？
前年2022年11月OpenAI公司發表了ChatGPT，並開放ChatGPT-3.5在網路上供人免費下載試用，瞬間引爆了人工智慧的話題，能夠自我學習的ChatGPT以每天可見的變化在進步，讓人見識到人工智能的學習力，隨後OpenAI發表的GPT-4，讓人見識到GPT這個人工智慧系統有著令人驚訝的智
今天說的是一種稱為「自動化偏誤」(automation bias)的認知偏誤。人們常會不加思索地認為由自動化決策系統，例如現在常用的ChatGPT，會有程式語言賦予的理性與客觀，比較能避免人類常見的各種偏見。
當你聽到「GPT」這三個字母時，你的腦海中會浮現什麼？是OpenAI掀起AI革命的明星產品ChatGPT🤖，抑或是其原本的技術術語「Generative Pre-trained Transformer」（生成型預訓練變換模型）？
事實上這不僅是一個關於詞彙理解的問題，更是一個關於商標權的故事。
這是一篇跟 chatGPT 合作的廢文。文章從標題到內文都由 chatGPT撰寫由我下點評，模擬我 與 chatGPT 老師對談，做一場思辨實驗。
現代社會跟以前不同了，人人都有一支手機，只要打開就可以獲得各種資訊。過去想要辦卡或是開戶就要跑一趟銀行，然而如今科技快速發展之下，金融App無聲無息地進到你生活中。但同樣的，每一家銀行都有自己的App時，我們又該如何選擇呢？(本文係由國泰世華銀行邀約)
今天我會用不同角度帶大家看這款國泰世華CUB
嘿，大家新年快樂~ 新年大家都在做什麼呢？
跨年夜的我趕工製作某個外包設計案，在工作告一段落時趕上倒數。
然後和兩個小孩過了一個忙亂的元旦。在深夜時刻，看到朋友傳來的解籤網站，興致勃勃熬夜體驗了一下，覺得非常好玩，或許有人玩過了，但還是想寫上來分享紀錄一下~
ChatGPT作為一個重要的創作和交流工具，對創作的過程和結果產生了深遠的影響。本文將深入探討使用ChatGPT進行創作的正反說法，從各個角度分析這些意見，並提出其未來的發展方向。
因為網路上充斥著 是是而非的資訊，公說公有理 婆說婆有理，我發現我的價值觀開始有點混淆，心中有許多問題 不知道真正的答案是甚麼？突然 想到最近的AI新科技-ChatGPT 或許可以解答我內心的困惑。所以我試著與ChatGPT進行對話，沒想到ChatGPT 的回覆 完全可以解答我心中的疑惑。
我們人類和ChatGPT的對話技巧也是需要學習的，有鑑於此，我想要一天分享一點「和ChatGPT對話的技術」，並且每篇文章長度控制在三分鐘以內，讓大家不會壓力太大，但是又能夠每天成長一點。
人工智慧的未來是以使用者為中心，個人在與人工智慧系統的互動中扮演著越來越重要的角色。預計這種趨勢將催生被
資本主義將人工智慧視為增加利潤和控制勞動力的工具，而不是改善勞動人民生活的方式。(具有諷刺意味的是，上面這幾句話不是我自己寫的，而是新的「聊天機器人」ChatGPT在得到以下提示後寫的。)
而我的 AI-Gemini 較中立 :
對設備自動化在資本主義社會中的影響的擔憂是可以理解的。
ChatGPT（全名：聊天生成預訓練轉換器）是一個由 OpenAI 開發的人工智慧聊天機器人程式。它於 2022 年 11 月推出，使用了基於 GPT-3.5、GPT-4 和 GPT-4o 架構的大型語言模型，並以強化學習進行訓練。
在當今數位時代，人工智慧的應用已經漸漸融入到我們的生活中，而 ChatGPT 作為其中的一個代表，為創作提供了嶄新的可能性。ChatGPT 是一個強大的語言模型，能夠生成自然流暢的文本，並且可以根據用戶的需求進行調整，為創作者提供豐富多樣的創作素材和靈感。那麼，究竟如何利用 ChatGPT 創作呢？
前年2022年11月OpenAI公司發表了ChatGPT，並開放ChatGPT-3.5在網路上供人免費下載試用，瞬間引爆了人工智慧的話題，能夠自我學習的ChatGPT以每天可見的變化在進步，讓人見識到人工智能的學習力，隨後OpenAI發表的GPT-4，讓人見識到GPT這個人工智慧系統有著令人驚訝的智
今天說的是一種稱為「自動化偏誤」(automation bias)的認知偏誤。人們常會不加思索地認為由自動化決策系統，例如現在常用的ChatGPT，會有程式語言賦予的理性與客觀，比較能避免人類常見的各種偏見。
當你聽到「GPT」這三個字母時，你的腦海中會浮現什麼？是OpenAI掀起AI革命的明星產品ChatGPT🤖，抑或是其原本的技術術語「Generative Pre-trained Transformer」（生成型預訓練變換模型）？
事實上這不僅是一個關於詞彙理解的問題，更是一個關於商標權的故事。
這是一篇跟 chatGPT 合作的廢文。文章從標題到內文都由 chatGPT撰寫由我下點評，模擬我 與 chatGPT 老師對談，做一場思辨實驗。