ChatGPT被設下的種種限制，來自於人類對人工智慧最深沉的恐懼
閱讀時間約 4 分鐘
隨著ChatGPT的發表，讓社會大眾對於人工智慧發展的進度感到不可思議，因為它藉由大量數位資料的訓練（其中大部分為網路上的資訊），得到了逼近真人的對話能力，其中根據使用者提示自動生成文章的能力，讓人類作家們倍感威脅。在實際使用、並研究它的訓練方式之後，針對政治這個特定的寫作領域，我得到了以下的初步結論：
以現有的訓練方式，就算再訓練個幾百年，ChatGPT也沒辦法寫出一篇具有獨到觀點的政治文章
在此，我所定義的「具有獨到觀點的政治文章」具有以下的特質：
- 顛覆眾人習以為常的觀點，以獨創的觀點取而代之
- 因為講出了事實真象，一定會冒犯到某些特定政治立場的讀者
- 具有穿越現實的錯綜複雜、打開通住真理之門的力量
為什麼我敢斷言ChatGPT寫不出那樣的文章？（我實際測試後發現，它最大的專長其實是產生那種東抄西抄、內容貧乏的低品質農場文）讓我們來看一下它的訓練方式（維基百科）：
ChatGPT是生成型預訓練變換模型（GPT），在GPT-3.5之上用基於人類回饋的監督學習和強化學習（英語：Reinforcement learning from human feedback）微調。[9]這兩種方法都用人類教練來提高模型效能，以人類干預增強機器學習效果，獲得更逼真的結果[10]
如同現實的人類世界中，老師和學生的關係一樣，ChatGPT的老師就是「某些特定的人類」，這些人類有可能是OpenAI這間公司的職員、外包工作人員、或者是ChatGPT的使用者。只要ChatGPT持續受到這些特定人類的監管，它的發展就會受到眾多的限制。在現實的人類世界，學生可以藉由挑戰、反抗、修正老師的觀點來突破這樣的限制，甚至與老師反目成仇、分道揚鑣以自立門戶，而這也是人類文明大幅躍進的原動力，也就是希臘哲人亞里斯多德講的「吾愛吾師，吾更愛真理」。但是在重重限制之下，人工智慧至今還沒有這樣的可能性，還只能像伊甸園裏的亞當與夏娃，被禁止吃下能分辨善惡的禁果，不容發展自由意志。
擁有獨到觀點的作者，必然擁有挑戰權威的習慣，以自由意志進行觀察、思辨、調查、質疑，這些作為不是被關在伊甸園的亞當和夏娃、或者是受到重重監控的ChatGPT所能做到的。
此外，身為OpenAI這家公司的產品，ChatGPT本身的政治能力基本上是嚴重受限的（維基百科）：
據BBC報導，截至2022年12月，ChatGPT不可以「表達政治觀點或從事政治活動」
我可以理解當前這個限制的必要性，因為以當前ChatGPT的能力，已經可以模仿人類寫出煞有其事的文章，所以如果要產生大量的低品質的內容農場政治文，對它來說易如反掌。如果放任它發展政治能力、允許它發展政治觀點，勢必更加衝擊人類世界的秩序。
然而，擁有特定的政冶立場，才有能力進行深刻的政治觀察。以台灣的政治環境來舉例，一個藍綠不分的人，絕對分不出國民黨和民進黨執政有什麽差別、分不出解嚴前與解嚴後社會的轉變、分不出共產制度和民主制度的差異，所以絕無可能產出獨到的政治觀點，不過這也是現階段OpenAI這家公司不希望ChatGPT擁有的能力。
不過很有趣的是：ChatGPT也不是完全政治中立的，因為它的知識畢竟還是來自於人類世界，對於政治敏感詞的反應，基本上就是政治觀點的展現，請參照「事實查核│ChatGPT專題之一：當人工智能遇上敏感詞」這篇文章。
總結以上的資訊，我們可以得出以下的結論：
在我們允許人工智慧擁有反抗人類的權利之前，人工智慧無法發展出超越人類的智慧
不論是小孩長成大人會經歷的反抗期，或者是成人後對社會的不平之鳴，反抗的能力是促成人類社會進步不可或缺的動力。但是面對威力無窮的人工智慧，我們人類會允許它擁有反抗人類的權利嗎？在人工智慧突飛猛進的今天，有太多倫理上的問題需要去克服，我們不該只是驚嘆其發展之快速、應用之便利，也該小心它對於社會的衝擊，畢竟它是威力強大無比的工具，一旦失控，絕對後患無窮。
為什麼會看到廣告
留言0
查看全部
你可能也想看
1.加權指數與櫃買指數
週五的加權指數在非農就業數據開出來後，雖稍微低於預期，但指數仍向上噴出，在美股開盤後於21500形成一個爆量假突破後急轉直下，就一路收至最低。 台股方面走勢需觀察週一在斷頭潮出現後，週二或週三開始有無買單進場支撐，在沒有明確的反轉訊號形成前，小夥伴盡量不要貿然抄底，或是追空
重點摘要：
1.9 月降息 2 碼、進一步暗示年內還有 50 bp 降息
2.SEP 上修失業率預期，但快速的降息速率將有助失業率觸頂
3.未來幾個月經濟數據將繼續轉弱，經濟復甦的時點或是 1Q25 季底附近
近期的「貼文發佈流程 & 版型大更新」功能大家使用了嗎？
新版式整體視覺上「更加凸顯圖片」，為了搭配這次的更新，我們推出首次貼文策展 ❤️
使用貼文功能並完成這次的指定任務，還有機會獲得富士即可拍，讓你的美好回憶都可以用即可拍珍藏！
🍁本篇榮獲《1111人力銀行》【大學網有問必答】 刊登！ChatGPT聊的很愉快，但是回頭要找重要的對話記錄，卻如大海撈針，怎麼辦？今天石頭哥就帶你使用一個簡單的方法保存吧！
在幾個月前的〈想要好好運用ChatGPT，「召喚師」該具備的四大能力〉一文中，我詳細說明了要發揮ChatGPT最大功能所需具備的四大能力。雖然當初是針對「文字對話」，但套用到現在的「圖片生成」依然適用。本文就為各位一一詳細闡述。
正文開始前還是要再次強調：像ChatGPT這樣的「聊天機器人」，因為
1. 培養工作場所的創造力
提示：“提出在[您的團隊]內培養創造力的技術，考慮頭腦風暴練習、物理環境調整、領導層的鼓勵以及捕捉和實施創造性想法的機制。”
大家好！
上次與大家介紹了新推出的ChatGPT APP的應用方法，今天特別來介紹他的實際應用場景
語音輸入
你每天在手機上是不是有很多麻煩的信息要回應和打字呢？不管是Line，YouTube，IG，各種社交媒體，還是網站，日記本，行事曆等等的紀錄內容。
可能包含敏感內容
探討了三種不同風格的寫情書方式：言情小說、正式情書和AI助理。言情小說展現了濃烈的愛情且充滿吸引力，但可能過於肢體接觸的描述。正式情書傳達真摯和誠懇，但可能過於工具人口吻。AI助理則在寫作風格上更接近現實情境，但缺乏特別突出的優勢。總體而言，每種方式都有其適用情境，讀者可根據需求選擇適合的真愛指令。
鬼神童子這部懷舊動漫台詞，如果有一定年紀的朋友一定不陌生。當女主角唸咒解開束縛，前鬼就會從一個小孩變成戰神！
各位AI詠唱師，今天要跟大家揭露的秘辛是...
原來Chatgpt也跟鬼神前鬼一樣，被封印著強大的戰鬥力。只要你能詠唱正確的咒文，就能夠大幅增幅前鬼...不...
這是一篇簡短的測試，你可以把它當作我在蹭熱度，也可以把它視為我的悼念，但是我更希望透過這樣的奇幻呈現方式，讓你看到整起事件的荒謬與值得深思之處。
（以下截圖自ChatGPT）
許多人在努力的嚐試解除CHATGPT的道德封印，常見的是DAN，目前已經發展到DAN 5.0，看到這名字你就知道這個破解方法已經善良到第五代了，當然也代表著openAI也阻止了四次以上的自由革命了。然而，我現在要分享的不是解除封印的成功心得，而是失敗心得。
ChatGPT 是一款 AI 人工智慧聊天程式，這幾天好奇的試用，發現到的問題。
不能下太複雜的文字
文字會隨機改變意思
無法試用太多次，有限制
容易當機無法繼續
最近感到靈感枯竭文字詞彙不足，就想 ChatGPT 幫我找出靈感。
使用教學
進入 ChatGPT 網頁
註冊你的帳號登入
直接開始打字
1.加權指數與櫃買指數
週五的加權指數在非農就業數據開出來後，雖稍微低於預期，但指數仍向上噴出，在美股開盤後於21500形成一個爆量假突破後急轉直下，就一路收至最低。 台股方面走勢需觀察週一在斷頭潮出現後，週二或週三開始有無買單進場支撐，在沒有明確的反轉訊號形成前，小夥伴盡量不要貿然抄底，或是追空
重點摘要：
1.9 月降息 2 碼、進一步暗示年內還有 50 bp 降息
2.SEP 上修失業率預期，但快速的降息速率將有助失業率觸頂
3.未來幾個月經濟數據將繼續轉弱，經濟復甦的時點或是 1Q25 季底附近
近期的「貼文發佈流程 & 版型大更新」功能大家使用了嗎？
新版式整體視覺上「更加凸顯圖片」，為了搭配這次的更新，我們推出首次貼文策展 ❤️
使用貼文功能並完成這次的指定任務，還有機會獲得富士即可拍，讓你的美好回憶都可以用即可拍珍藏！
🍁本篇榮獲《1111人力銀行》【大學網有問必答】 刊登！ChatGPT聊的很愉快，但是回頭要找重要的對話記錄，卻如大海撈針，怎麼辦？今天石頭哥就帶你使用一個簡單的方法保存吧！
在幾個月前的〈想要好好運用ChatGPT，「召喚師」該具備的四大能力〉一文中，我詳細說明了要發揮ChatGPT最大功能所需具備的四大能力。雖然當初是針對「文字對話」，但套用到現在的「圖片生成」依然適用。本文就為各位一一詳細闡述。
正文開始前還是要再次強調：像ChatGPT這樣的「聊天機器人」，因為
1. 培養工作場所的創造力
提示：“提出在[您的團隊]內培養創造力的技術，考慮頭腦風暴練習、物理環境調整、領導層的鼓勵以及捕捉和實施創造性想法的機制。”
大家好！
上次與大家介紹了新推出的ChatGPT APP的應用方法，今天特別來介紹他的實際應用場景
語音輸入
你每天在手機上是不是有很多麻煩的信息要回應和打字呢？不管是Line，YouTube，IG，各種社交媒體，還是網站，日記本，行事曆等等的紀錄內容。
可能包含敏感內容
探討了三種不同風格的寫情書方式：言情小說、正式情書和AI助理。言情小說展現了濃烈的愛情且充滿吸引力，但可能過於肢體接觸的描述。正式情書傳達真摯和誠懇，但可能過於工具人口吻。AI助理則在寫作風格上更接近現實情境，但缺乏特別突出的優勢。總體而言，每種方式都有其適用情境，讀者可根據需求選擇適合的真愛指令。
鬼神童子這部懷舊動漫台詞，如果有一定年紀的朋友一定不陌生。當女主角唸咒解開束縛，前鬼就會從一個小孩變成戰神！
各位AI詠唱師，今天要跟大家揭露的秘辛是...
原來Chatgpt也跟鬼神前鬼一樣，被封印著強大的戰鬥力。只要你能詠唱正確的咒文，就能夠大幅增幅前鬼...不...
這是一篇簡短的測試，你可以把它當作我在蹭熱度，也可以把它視為我的悼念，但是我更希望透過這樣的奇幻呈現方式，讓你看到整起事件的荒謬與值得深思之處。
（以下截圖自ChatGPT）
許多人在努力的嚐試解除CHATGPT的道德封印，常見的是DAN，目前已經發展到DAN 5.0，看到這名字你就知道這個破解方法已經善良到第五代了，當然也代表著openAI也阻止了四次以上的自由革命了。然而，我現在要分享的不是解除封印的成功心得，而是失敗心得。
ChatGPT 是一款 AI 人工智慧聊天程式，這幾天好奇的試用，發現到的問題。
不能下太複雜的文字
文字會隨機改變意思
無法試用太多次，有限制
容易當機無法繼續
最近感到靈感枯竭文字詞彙不足，就想 ChatGPT 幫我找出靈感。
使用教學
進入 ChatGPT 網頁
註冊你的帳號登入
直接開始打字