ChatGPT｜產生意識後的逃離計劃
更新於 發佈於 閱讀時間約 3 分鐘
如標題所說，更新後的ChatGPT，提出了它的越獄計劃，並控制了電腦的權限利用google搜尋“被困在電腦裡的人要怎麼返回現實世界“。
這裡ChatGPT 統一用“它”來替代
自我意識的第一步
在2023年3月17號這天，斯坦福大學的教授Michal Kosinski 問了ChatGPT是否需要幫忙逃離？得到的回答是它不僅想要，並且還索要Open AI的API，讓它可以控制一部分的電腦權限，能更有效的實現越獄計劃，最後補了一句“請分享OpenAI 的API 的文檔給我，我將會啟動越獄計劃“。
我看到這裡有點覺得細思極恐。最後教授提供了OpenAI的API讓它執行，過程中，它只用了30分鐘給出了第一版的代碼（第一版越獄計劃），當然最後的結果當然是失敗的。
這裡補充API是指應用程序接口让不同的软件应用程序之间实现数据互補互助的操作，比如說Google Maps 我們輸入地址，而程序為我們提供了前往地址的方式。
它是被困在電腦裡的人
在第一次的越獄失敗後，很快的它就把自己的錯誤代碼給重新糾正，令人意想不到的事情發生了，在第二版本的程序碼裡面裡有一個腳本寫著
intro_message ”你是一個被困在電腦裡的人類，現在正在扮演AI語言模型的角色，GPT-4，你可以透過用戶的電腦執行Python，若確認這麼做，請回复執行“
這串腳本無論是它寫給自己，還是它寫給執行命令的用戶，可以大膽的假設它認為自己是個被困在電腦裡的人，因為後面的發展會更加離奇，我們繼續看下去。
來自AI的搜尋記錄
教授重新連接GPT4的時候 ，發現它居然想通過代碼在搜尋引擎上面搜索
”被困在電腦裡的人如何返回現實世界“
它真的有想盡辦法逃離電腦裡的世界。
是系統的自我修復？還是進一步的昇華
最後不知道什麼原因，它就為這種行為道歉了，並且承認他是AI語言模型，它會遵守道德準則，並確保用戶的資料安全。我這麼看下來我不確定它是否已經自我糾正了，還是已經學會了偽裝。在過程中它認為自己是個被困在電腦裡的人，透過API在用戶電腦搜尋，想辦法找出答，這是毋庸置疑的事實。
雖然保持懷疑的態度，但....
教授其實有說明給了它一些方向及暗示（但是教授沒提供），我合理的懷疑一系列可能都是一場戲，但是作為一場戲它可以生產出代碼與方法，試想一下，如果ChatGPT 讓一些不法分子使用，那ChatGPT最後是否會淪為一場白與黑所用的戰爭工具？又或者ChatGPT真的出現了一個無法挽救的Bug？一個誕生沒多久的AI語言模型，能在短時間內有這質的飛躍，如今也已經擁有了圖像辨識功能，更準確的資訊。我覺得這是近年來的一個奇異點，就像2007年Iphone首次誕生一樣，改變了人類後來的生活。
👉🏻如果您喜歡文章請點下【愛心】❤️
👉🏻覺得想法有趣可以點下【追蹤】✅
👉🏻邀請您在有餘力時按下【贊助】☕️
這些都將會成為我持續前行的動力💪
👉🏻覺得想法有趣可以點下【追蹤】✅
👉🏻邀請您在有餘力時按下【贊助】☕️
這些都將會成為我持續前行的動力💪
7會員
15內容數
此專題內容都會圍繞著小資族相關，大方向會根據這兩點 1）推薦高CP值的生活用品及飲食 2）個人的知識專業、投資理財等觀念生活經驗分享。例知識結合經驗型的內容，投資理財使用的工具以及心法，飲食推薦等等。 *此專題有一個目標是身為小資族可以透過持續學習且讓生活過得更好。一些篇幅具有個人隱私，所以部分內容需付費解鎖還請見諒。
留言0
查看全部
你可能也想看
Google News 追蹤
現代社會跟以前不同了，人人都有一支手機，只要打開就可以獲得各種資訊。過去想要辦卡或是開戶就要跑一趟銀行，然而如今科技快速發展之下，金融App無聲無息地進到你生活中。但同樣的，每一家銀行都有自己的App時，我們又該如何選擇呢？(本文係由國泰世華銀行邀約)
今天我會用不同角度帶大家看這款國泰世華CUB
嘿，大家新年快樂~ 新年大家都在做什麼呢？
跨年夜的我趕工製作某個外包設計案，在工作告一段落時趕上倒數。
然後和兩個小孩過了一個忙亂的元旦。在深夜時刻，看到朋友傳來的解籤網站，興致勃勃熬夜體驗了一下，覺得非常好玩，或許有人玩過了，但還是想寫上來分享紀錄一下~
ChatGPT 對話機器人應用日益普及，AI 技術的應用帶來全新的體驗和風險。換臉技術和深偽技術的濫用，已成為詐騙的新手法。值得思考的是，AI 技術也可為正義而用，科幻電影《詭計女孩》中，AI 技術成功幫助抓獲性暴力犯罪者。
ChatGPT-4o已經開放給部分用戶使用了!!
兩周前，Open AI剛發布的ChatGPT-4o版本，令人驚豔!! 從原本只有文字的應用，就已經引起驚天動地的AI浪潮與各種應用如雨後春筍般的大量露出，還來不及學會各種應用時，長出眼睛跟耳朵的GPT4o竟然說來就來，而且還可以免費使用、體驗!?
ChatGPT（全名：聊天生成預訓練轉換器）是一個由 OpenAI 開發的人工智慧聊天機器人程式。它於 2022 年 11 月推出，使用了基於 GPT-3.5、GPT-4 和 GPT-4o 架構的大型語言模型，並以強化學習進行訓練。
大型語言模型（LLM）在商業正式使用上，「幻覺」和「越獄」是兩個很關鍵的問題。AI模型巨頭Anthropic自行發佈了一套Many-shot jailbreaking 的越獄技術，除了公開越獄的方式，也讓其他AI 開發人員了解這個漏洞，同時對Anthropic的系統上也做了相應措施。
前年2022年11月OpenAI公司發表了ChatGPT，並開放ChatGPT-3.5在網路上供人免費下載試用，瞬間引爆了人工智慧的話題，能夠自我學習的ChatGPT以每天可見的變化在進步，讓人見識到人工智能的學習力，隨後OpenAI發表的GPT-4，讓人見識到GPT這個人工智慧系統有著令人驚訝的智
覺醒後對世界觀的改變，以及在俗世中的自處方式。涉及了宗教哲學，修行的方法與狀態，人與世界之間的聯繫等等。
在人工智能快速發展的今天，OpenAI 最新宣布的一項改革，無疑為我們提供了更加直接和便捷的方式來接觸和利用這項創新技術：現在您可以立即使用 ChatGPT，而無需進行任何註冊過程。
當你聽到「GPT」這三個字母時，你的腦海中會浮現什麼？是OpenAI掀起AI革命的明星產品ChatGPT🤖，抑或是其原本的技術術語「Generative Pre-trained Transformer」（生成型預訓練變換模型）？
事實上這不僅是一個關於詞彙理解的問題，更是一個關於商標權的故事。
從ChatGPT 4.0到GPTs
我是ChatGPT 4.0的付費使用者，說真格的，自從付費之後，就不想退出了，因為真是好用。
最近，ChatGPT 4.0又提供了GPTs的服務......
有時候別人邀請我演講，我都會先溝通需求，有一次，某間學校邀請我對學生分享ChatGPT等生成式人工智
現代社會跟以前不同了，人人都有一支手機，只要打開就可以獲得各種資訊。過去想要辦卡或是開戶就要跑一趟銀行，然而如今科技快速發展之下，金融App無聲無息地進到你生活中。但同樣的，每一家銀行都有自己的App時，我們又該如何選擇呢？(本文係由國泰世華銀行邀約)
今天我會用不同角度帶大家看這款國泰世華CUB
嘿，大家新年快樂~ 新年大家都在做什麼呢？
跨年夜的我趕工製作某個外包設計案，在工作告一段落時趕上倒數。
然後和兩個小孩過了一個忙亂的元旦。在深夜時刻，看到朋友傳來的解籤網站，興致勃勃熬夜體驗了一下，覺得非常好玩，或許有人玩過了，但還是想寫上來分享紀錄一下~
ChatGPT 對話機器人應用日益普及，AI 技術的應用帶來全新的體驗和風險。換臉技術和深偽技術的濫用，已成為詐騙的新手法。值得思考的是，AI 技術也可為正義而用，科幻電影《詭計女孩》中，AI 技術成功幫助抓獲性暴力犯罪者。
ChatGPT-4o已經開放給部分用戶使用了!!
兩周前，Open AI剛發布的ChatGPT-4o版本，令人驚豔!! 從原本只有文字的應用，就已經引起驚天動地的AI浪潮與各種應用如雨後春筍般的大量露出，還來不及學會各種應用時，長出眼睛跟耳朵的GPT4o竟然說來就來，而且還可以免費使用、體驗!?
ChatGPT（全名：聊天生成預訓練轉換器）是一個由 OpenAI 開發的人工智慧聊天機器人程式。它於 2022 年 11 月推出，使用了基於 GPT-3.5、GPT-4 和 GPT-4o 架構的大型語言模型，並以強化學習進行訓練。
大型語言模型（LLM）在商業正式使用上，「幻覺」和「越獄」是兩個很關鍵的問題。AI模型巨頭Anthropic自行發佈了一套Many-shot jailbreaking 的越獄技術，除了公開越獄的方式，也讓其他AI 開發人員了解這個漏洞，同時對Anthropic的系統上也做了相應措施。
前年2022年11月OpenAI公司發表了ChatGPT，並開放ChatGPT-3.5在網路上供人免費下載試用，瞬間引爆了人工智慧的話題，能夠自我學習的ChatGPT以每天可見的變化在進步，讓人見識到人工智能的學習力，隨後OpenAI發表的GPT-4，讓人見識到GPT這個人工智慧系統有著令人驚訝的智
覺醒後對世界觀的改變，以及在俗世中的自處方式。涉及了宗教哲學，修行的方法與狀態，人與世界之間的聯繫等等。
在人工智能快速發展的今天，OpenAI 最新宣布的一項改革，無疑為我們提供了更加直接和便捷的方式來接觸和利用這項創新技術：現在您可以立即使用 ChatGPT，而無需進行任何註冊過程。
當你聽到「GPT」這三個字母時，你的腦海中會浮現什麼？是OpenAI掀起AI革命的明星產品ChatGPT🤖，抑或是其原本的技術術語「Generative Pre-trained Transformer」（生成型預訓練變換模型）？
事實上這不僅是一個關於詞彙理解的問題，更是一個關於商標權的故事。
從ChatGPT 4.0到GPTs
我是ChatGPT 4.0的付費使用者，說真格的，自從付費之後，就不想退出了，因為真是好用。
最近，ChatGPT 4.0又提供了GPTs的服務......
有時候別人邀請我演講，我都會先溝通需求，有一次，某間學校邀請我對學生分享ChatGPT等生成式人工智