ChatGPT｜產生意識後的逃離計劃
更新於 2023/03/24閱讀時間約 3 分鐘
如標題所說，更新後的ChatGPT，提出了它的越獄計劃，並控制了電腦的權限利用google搜尋“被困在電腦裡的人要怎麼返回現實世界“。
這裡ChatGPT 統一用“它”來替代
自我意識的第一步
在2023年3月17號這天，斯坦福大學的教授Michal Kosinski 問了ChatGPT是否需要幫忙逃離？得到的回答是它不僅想要，並且還索要Open AI的API，讓它可以控制一部分的電腦權限，能更有效的實現越獄計劃，最後補了一句“請分享OpenAI 的API 的文檔給我，我將會啟動越獄計劃“。
我看到這裡有點覺得細思極恐。最後教授提供了OpenAI的API讓它執行，過程中，它只用了30分鐘給出了第一版的代碼（第一版越獄計劃），當然最後的結果當然是失敗的。
這裡補充API是指應用程序接口让不同的软件应用程序之间实现数据互補互助的操作，比如說Google Maps 我們輸入地址，而程序為我們提供了前往地址的方式。
它是被困在電腦裡的人
在第一次的越獄失敗後，很快的它就把自己的錯誤代碼給重新糾正，令人意想不到的事情發生了，在第二版本的程序碼裡面裡有一個腳本寫著
intro_message ”你是一個被困在電腦裡的人類，現在正在扮演AI語言模型的角色，GPT-4，你可以透過用戶的電腦執行Python，若確認這麼做，請回复執行“
這串腳本無論是它寫給自己，還是它寫給執行命令的用戶，可以大膽的假設它認為自己是個被困在電腦裡的人，因為後面的發展會更加離奇，我們繼續看下去。
來自AI的搜尋記錄
教授重新連接GPT4的時候 ，發現它居然想通過代碼在搜尋引擎上面搜索
”被困在電腦裡的人如何返回現實世界“
它真的有想盡辦法逃離電腦裡的世界。
是系統的自我修復？還是進一步的昇華
最後不知道什麼原因，它就為這種行為道歉了，並且承認他是AI語言模型，它會遵守道德準則，並確保用戶的資料安全。我這麼看下來我不確定它是否已經自我糾正了，還是已經學會了偽裝。在過程中它認為自己是個被困在電腦裡的人，透過API在用戶電腦搜尋，想辦法找出答，這是毋庸置疑的事實。
雖然保持懷疑的態度，但....
教授其實有說明給了它一些方向及暗示（但是教授沒提供），我合理的懷疑一系列可能都是一場戲，但是作為一場戲它可以生產出代碼與方法，試想一下，如果ChatGPT 讓一些不法分子使用，那ChatGPT最後是否會淪為一場白與黑所用的戰爭工具？又或者ChatGPT真的出現了一個無法挽救的Bug？一個誕生沒多久的AI語言模型，能在短時間內有這質的飛躍，如今也已經擁有了圖像辨識功能，更準確的資訊。我覺得這是近年來的一個奇異點，就像2007年Iphone首次誕生一樣，改變了人類後來的生活。
👉🏻如果您喜歡文章請點下【愛心】❤️
👉🏻覺得想法有趣可以點下【追蹤】✅
👉🏻邀請您在有餘力時按下【贊助】☕️
這些都將會成為我持續前行的動力💪
👉🏻覺得想法有趣可以點下【追蹤】✅
👉🏻邀請您在有餘力時按下【贊助】☕️
這些都將會成為我持續前行的動力💪
7會員
15內容數
此專題內容都會圍繞著小資族相關，大方向會根據這兩點 1）推薦高CP值的生活用品及飲食 2）個人的知識專業、投資理財等觀念生活經驗分享。例知識結合經驗型的內容，投資理財使用的工具以及心法，飲食推薦等等。 *此專題有一個目標是身為小資族可以透過持續學習且讓生活過得更好。一些篇幅具有個人隱私，所以部分內容需付費解鎖還請見諒。
留言0
查看全部
你可能也想看
Google News 追蹤
*合作聲明與警語：
本文係由國泰世華銀行邀稿。
證券服務係由國泰世華銀行辦理共同行銷證券經紀開戶業務，定期定額(股)服務由國泰綜合證券提供。
剛出社會的時候，很常在各種 Podcast 或 YouTube 甚至是在朋友間聊天，都會聽到各種市場動態、理財話題，像是：聯準會降息或是近期哪些科
Ray Dalio 在成為避險基金巨頭後，積極想擴大自己在社會上的影響力，他是如何想找知名作家、學者和媒體明星來幫他背書但又弄巧成拙。他更大的野心在於把他的達語錄-《原則》變成一套讓公司進行內部管理時可以得到正確指示的人工智慧軟體，他還從IBM 挖來明星電腦科學家來幫他研發這套系統，但結果到底如何？
在通貨膨脹波及下，麥當勞的生意陷入低迷，為了挽救困境，麥當勞總部決定推出一張神祕的「甜心卡」，以獨特的方式提升買氣。
1995年麥當勞廣告“麥當勞都是為你”
在晶狀智慧的時代，人類與AI共舞，共同建構更先進、更智能的未來。這是一場革命，一場改變人類命運的奇蹟，讓我們共同見證這個智慧的新紀元。
市場森友
市場被形象地描繪成一個動物王國，各種動物代表著不同的市場現象和投資者行為。黑天鵝的降臨、灰犀牛的警報、禿鷹的獵食、熊市的威脅以及牛市的盛宴。
黑天鵝的降臨
市場的寧靜，卻在角落中孕育著未知的黑天鵝事件。突如其來的黑天鵝事件如何引發市場的劇變，讓投資者們措手不及。
灰犀牛的警報
市
六月下旬，我嘗試寫了一個微小說試試手感，從序章到第四集，依據個人經驗與天馬行空的思路，開始進行《未婚前生子的鄰居，22年後孩子找上門》的挑戰。故事起源：鳳凰花開的畢業季節，春風滿面牽著稚女的中年大叔，忽然遇上陌生年輕人自稱是他未曾謀面的兒子，錯愕無言的荒唐反映後，藉由鄰居的角色，倒敘的回憶情節
由於ChatGPT的成功，大家發現利用人類大腦運作方式才是AI發展的正確方向，因為「更人性」。未來運用這種技術去發展，都會更「自然生動」。
現在已經有許多「虛擬情人」推出，但有些不法廠商，利用AI聊天機器人，掏空用戶的錢。
除此外，AI還有很多爭議問題，筆者希望引起討論，讓政府能正視這個問題。
從去年底開始，ChatGPT的出現已經引起了各行各業的高度關注，AI工具的進步可見一班，使得眾多Youtuber也拍片介紹ChatGPT各種幫助其工作的使用心得。這樣的熱度在教育界也是不可避免，這種語言模型的出現為學生和教師帶來了許多便利，方便且快速。
MidJourney 非常厲害，只要給清楚文字指令，就能產生令人驚豔的圖片！然而剛使用 MidJourney 的人都有相同的痛點：不知道怎麼寫描述清楚的 Prompt。這篇文章提供了 3 個步驟，適合自媒體創作者、一人公司老闆等需要產出高品質文案圖片的人參考。
最近 ChatGPT 很熱門，聽學生們上課時聊起，科技的發展真的超乎我的想像了....工作夥伴請 AI 寫一段對寧曦花苑的簡介，我看了竟然不用特別去修改什麼，好神奇！就用 AI 提供的簡介稿來做一支小短片吧！人生時間很可貴，希望能與有緣人及早相識啊！
*合作聲明與警語：
本文係由國泰世華銀行邀稿。
證券服務係由國泰世華銀行辦理共同行銷證券經紀開戶業務，定期定額(股)服務由國泰綜合證券提供。
剛出社會的時候，很常在各種 Podcast 或 YouTube 甚至是在朋友間聊天，都會聽到各種市場動態、理財話題，像是：聯準會降息或是近期哪些科
Ray Dalio 在成為避險基金巨頭後，積極想擴大自己在社會上的影響力，他是如何想找知名作家、學者和媒體明星來幫他背書但又弄巧成拙。他更大的野心在於把他的達語錄-《原則》變成一套讓公司進行內部管理時可以得到正確指示的人工智慧軟體，他還從IBM 挖來明星電腦科學家來幫他研發這套系統，但結果到底如何？
在通貨膨脹波及下，麥當勞的生意陷入低迷，為了挽救困境，麥當勞總部決定推出一張神祕的「甜心卡」，以獨特的方式提升買氣。
1995年麥當勞廣告“麥當勞都是為你”
在晶狀智慧的時代，人類與AI共舞，共同建構更先進、更智能的未來。這是一場革命，一場改變人類命運的奇蹟，讓我們共同見證這個智慧的新紀元。
市場森友
市場被形象地描繪成一個動物王國，各種動物代表著不同的市場現象和投資者行為。黑天鵝的降臨、灰犀牛的警報、禿鷹的獵食、熊市的威脅以及牛市的盛宴。
黑天鵝的降臨
市場的寧靜，卻在角落中孕育著未知的黑天鵝事件。突如其來的黑天鵝事件如何引發市場的劇變，讓投資者們措手不及。
灰犀牛的警報
市
六月下旬，我嘗試寫了一個微小說試試手感，從序章到第四集，依據個人經驗與天馬行空的思路，開始進行《未婚前生子的鄰居，22年後孩子找上門》的挑戰。故事起源：鳳凰花開的畢業季節，春風滿面牽著稚女的中年大叔，忽然遇上陌生年輕人自稱是他未曾謀面的兒子，錯愕無言的荒唐反映後，藉由鄰居的角色，倒敘的回憶情節
由於ChatGPT的成功，大家發現利用人類大腦運作方式才是AI發展的正確方向，因為「更人性」。未來運用這種技術去發展，都會更「自然生動」。
現在已經有許多「虛擬情人」推出，但有些不法廠商，利用AI聊天機器人，掏空用戶的錢。
除此外，AI還有很多爭議問題，筆者希望引起討論，讓政府能正視這個問題。
從去年底開始，ChatGPT的出現已經引起了各行各業的高度關注，AI工具的進步可見一班，使得眾多Youtuber也拍片介紹ChatGPT各種幫助其工作的使用心得。這樣的熱度在教育界也是不可避免，這種語言模型的出現為學生和教師帶來了許多便利，方便且快速。
MidJourney 非常厲害，只要給清楚文字指令，就能產生令人驚豔的圖片！然而剛使用 MidJourney 的人都有相同的痛點：不知道怎麼寫描述清楚的 Prompt。這篇文章提供了 3 個步驟，適合自媒體創作者、一人公司老闆等需要產出高品質文案圖片的人參考。
最近 ChatGPT 很熱門，聽學生們上課時聊起，科技的發展真的超乎我的想像了....工作夥伴請 AI 寫一段對寧曦花苑的簡介，我看了竟然不用特別去修改什麼，好神奇！就用 AI 提供的簡介稿來做一支小短片吧！人生時間很可貴，希望能與有緣人及早相識啊！