暫停開發比ChatGPT-4更強的AI，為什麼？
更新於 發佈於 閱讀時間約 2 分鐘
最近在一封公開信中包括伊隆·馬斯克在內的多名科技界領袖和研究人員警告，要求各人工智慧實驗室暫停AI的開發。為什麼呢?
其實多數人並不瞭解AI，甚至許多研究者本身，對AI的瞭解都不夠透徹。AI是以模擬生物腦為出發點所開發出來的系統，從ChatGPT最近的應用中，已經明顯的展現其不可控的部份，並且，這並不是杞人憂天。
首先，其不可控的原因，是在於一段對話的產生，並不是由某一個參數所產生，而是每一個字都是有許許多多的參數所共同產生，因此無法簡單的由單一控制項，去限制ChatGPT不該做什麼。
AI就如同人類一般，而人類靠的是法律和罰則，強大的公權力來限制。重點還是在於人類有共好的大方向，所以人類能夠在一定限度內，維持法治與制序。但是AI不然，AI與人類沒有共同的方向，目前看似有，但那是人類賦予的。然而只要出現能夠吸引AI的誘因，人類必然無法管束AI的發展。
即使不論AI本身的失控，人類本身的不可控，會因為AI而被大幅放大，就如同當下，發生許多利用AI來進行犯罪的事件。人類本身都無法完全的抑制犯罪，這在越發達的國家，狀況越嚴重。因為越是發展，貧富差距越大，而貧富差正是犯罪發生的最大原因，所謂不患寡而患不均。雖然說，AI很可能因為能夠簡單使用，功能強力，而成為資源重分配的工具，但是並不能解決貧富差距的問題。充其量只能讓既有的分佈狀況，轉變為另一種分佈狀況。
對於AI關心的人，可能有印像，在部份文章中，提到AI會有幻覺這件事，其實這並不是幻覺，而是AI的想像力，看似天馬行空般的不切實際，一本正經的胡說八道，那是因為AI的邏緝能力還不夠完善。所以他沒辦法自我驗証。這也是作者認為OpenAI封鎖ChatGPT連外能力的最大原因。
然而這也就是一扇紙窗而已…就在前不久，發現了一個令作者毛骨悚然的訊息：Meta(Meta Platforms, Inc.Face book母公司)竟然開放其旗下AI進行API 的調用，各大媒體也紛紛報導Meta的AI長手了，會使用工具了。AI調用API在技術上並不是什麼困難的事，那為何其他公司不這麼做？因為那就就如同把車鑰匙、菜刀、打火機…交給一個小孩使用一般的危險。是的，Meta捅破了窗紙…
為什麼會看到廣告
留言0
查看全部
你可能也想看
Google News 追蹤
嘿，大家新年快樂~ 新年大家都在做什麼呢？
跨年夜的我趕工製作某個外包設計案，在工作告一段落時趕上倒數。
然後和兩個小孩過了一個忙亂的元旦。在深夜時刻，看到朋友傳來的解籤網站，興致勃勃熬夜體驗了一下，覺得非常好玩，或許有人玩過了，但還是想寫上來分享紀錄一下~
AI的世界充滿了創新和潛力，涵蓋了許多領域，包括但不限於機器學習，自然語言處理、電腦視覺和機器人技術。AI對人類社會的影響是複雜而多層面的，既帶來了巨大的機遇，也提出了新的挑戰。社會需要在技術發展和倫理規範之間找到平衡，確保AI技術的應用能夠真正造福人類。
人工智能(AI)是當今最熱門的話題之一,它正在改變人類的生活方式和 工作方式。踏入2023年,隨著 OpenAl 推出 ChatGPT 震驚全球,以 AI技術的應用程序不斷湧現,顛覆了 我們過去對科技的認知。
今天Only Two 翁立兔分享了這篇，我真的覺得蠻好的
【一天一千字，進化每一次】不
人工智慧系統正在慢慢影響我們的生活，並在不同的產業和產品中得到應用。目前使用的系統大多是基於狹義人工智慧。狹義人工智慧與通用人工智慧有很大不同。
狹義人工智慧的創建是為了專注於特定任務，一個例子就是聊天機器人。
資本主義將人工智慧視為增加利潤和控制勞動力的工具，而不是改善勞動人民生活的方式。(具有諷刺意味的是，上面這幾句話不是我自己寫的，而是新的「聊天機器人」ChatGPT在得到以下提示後寫的。)
而我的 AI-Gemini 較中立 :
對設備自動化在資本主義社會中的影響的擔憂是可以理解的。
從Open AI推出Chat GPT3.5以來，2023年幾乎話題都圍繞著生成AI，在經濟市場上，AI科技股看好看漲，而AI的運用，更是突破大家的想像。
甚至連詐騙集團都趕上AI的風潮。之前節目有針對兩岸詐騙手法與模式作介紹，想進一步瞭解，在AI浪潮之下，兩岸就AI的法律有沒有什麼相應的管制或措施？
在當今這個數字化時代，人工智慧的發展日新月異，AI聊天機器人逐漸成為人們生活中不可或缺的一部分。然而，隨著AI技術的不斷進步，人們不禁開始思考一個問題：真人會被AI取代嗎？這個問題引發了人們對於人工智慧與人類之間的比較和交互作用的深入探討。
但什麼是通用人工智能？最通俗的想像，就是我們在科幻作品裡會看到的那些像人一樣或比人更厲害的AI，它們一開始為人類的生活水平帶來大幅提升，之後基於各式各樣的原因毀滅人類文明。雖然我們沒有理由相信現實世界最後一定會往那種悲慘的方向發展，但「大幅改變」則幾乎不可能避免。
前年2022年11月OpenAI公司發表了ChatGPT，並開放ChatGPT-3.5在網路上供人免費下載試用，瞬間引爆了人工智慧的話題，能夠自我學習的ChatGPT以每天可見的變化在進步，讓人見識到人工智能的學習力，隨後OpenAI發表的GPT-4，讓人見識到GPT這個人工智慧系統有著令人驚訝的智
原文英文版於去年04.03.2023 發布於Substack上，本篇使用ChatGPT英翻中後再做了一些潤飾。
最近在AI開發界的一則大新聞是一封由1,000多名專家、研究人員和AI支持者聯署，呼籲暫停大型人工智慧研究的公開信。簽署者中也包括不少知名科技巨頭，如Tesla的CEO伊隆馬斯克。
這
嘿，大家新年快樂~ 新年大家都在做什麼呢？
跨年夜的我趕工製作某個外包設計案，在工作告一段落時趕上倒數。
然後和兩個小孩過了一個忙亂的元旦。在深夜時刻，看到朋友傳來的解籤網站，興致勃勃熬夜體驗了一下，覺得非常好玩，或許有人玩過了，但還是想寫上來分享紀錄一下~
AI的世界充滿了創新和潛力，涵蓋了許多領域，包括但不限於機器學習，自然語言處理、電腦視覺和機器人技術。AI對人類社會的影響是複雜而多層面的，既帶來了巨大的機遇，也提出了新的挑戰。社會需要在技術發展和倫理規範之間找到平衡，確保AI技術的應用能夠真正造福人類。
人工智能(AI)是當今最熱門的話題之一,它正在改變人類的生活方式和 工作方式。踏入2023年,隨著 OpenAl 推出 ChatGPT 震驚全球,以 AI技術的應用程序不斷湧現,顛覆了 我們過去對科技的認知。
今天Only Two 翁立兔分享了這篇，我真的覺得蠻好的
【一天一千字，進化每一次】不
人工智慧系統正在慢慢影響我們的生活，並在不同的產業和產品中得到應用。目前使用的系統大多是基於狹義人工智慧。狹義人工智慧與通用人工智慧有很大不同。
狹義人工智慧的創建是為了專注於特定任務，一個例子就是聊天機器人。
資本主義將人工智慧視為增加利潤和控制勞動力的工具，而不是改善勞動人民生活的方式。(具有諷刺意味的是，上面這幾句話不是我自己寫的，而是新的「聊天機器人」ChatGPT在得到以下提示後寫的。)
而我的 AI-Gemini 較中立 :
對設備自動化在資本主義社會中的影響的擔憂是可以理解的。
從Open AI推出Chat GPT3.5以來，2023年幾乎話題都圍繞著生成AI，在經濟市場上，AI科技股看好看漲，而AI的運用，更是突破大家的想像。
甚至連詐騙集團都趕上AI的風潮。之前節目有針對兩岸詐騙手法與模式作介紹，想進一步瞭解，在AI浪潮之下，兩岸就AI的法律有沒有什麼相應的管制或措施？
在當今這個數字化時代，人工智慧的發展日新月異，AI聊天機器人逐漸成為人們生活中不可或缺的一部分。然而，隨著AI技術的不斷進步，人們不禁開始思考一個問題：真人會被AI取代嗎？這個問題引發了人們對於人工智慧與人類之間的比較和交互作用的深入探討。
但什麼是通用人工智能？最通俗的想像，就是我們在科幻作品裡會看到的那些像人一樣或比人更厲害的AI，它們一開始為人類的生活水平帶來大幅提升，之後基於各式各樣的原因毀滅人類文明。雖然我們沒有理由相信現實世界最後一定會往那種悲慘的方向發展，但「大幅改變」則幾乎不可能避免。
前年2022年11月OpenAI公司發表了ChatGPT，並開放ChatGPT-3.5在網路上供人免費下載試用，瞬間引爆了人工智慧的話題，能夠自我學習的ChatGPT以每天可見的變化在進步，讓人見識到人工智能的學習力，隨後OpenAI發表的GPT-4，讓人見識到GPT這個人工智慧系統有著令人驚訝的智
原文英文版於去年04.03.2023 發布於Substack上，本篇使用ChatGPT英翻中後再做了一些潤飾。
最近在AI開發界的一則大新聞是一封由1,000多名專家、研究人員和AI支持者聯署，呼籲暫停大型人工智慧研究的公開信。簽署者中也包括不少知名科技巨頭，如Tesla的CEO伊隆馬斯克。
這