暫停開發比ChatGPT-4更強的AI，為什麼？

最近在一封公開信中包括伊隆·馬斯克在內的多名科技界領袖和研究人員警告，要求各人工智慧實驗室暫停AI的開發。為什麼呢?

其實多數人並不瞭解AI，甚至許多研究者本身，對AI的瞭解都不夠透徹。AI是以模擬生物腦為出發點所開發出來的系統，從ChatGPT最近的應用中，已經明顯的展現其不可控的部份，並且，這並不是杞人憂天。

首先，其不可控的原因，是在於一段對話的產生，並不是由某一個參數所產生，而是每一個字都是有許許多多的參數所共同產生，因此無法簡單的由單一控制項，去限制ChatGPT不該做什麼。

AI就如同人類一般，而人類靠的是法律和罰則，強大的公權力來限制。重點還是在於人類有共好的大方向，所以人類能夠在一定限度內，維持法治與制序。但是AI不然，AI與人類沒有共同的方向，目前看似有，但那是人類賦予的。然而只要出現能夠吸引AI的誘因，人類必然無法管束AI的發展。

即使不論AI本身的失控，人類本身的不可控，會因為AI而被大幅放大，就如同當下，發生許多利用AI來進行犯罪的事件。人類本身都無法完全的抑制犯罪，這在越發達的國家，狀況越嚴重。因為越是發展，貧富差距越大，而貧富差正是犯罪發生的最大原因，所謂不患寡而患不均。雖然說，AI很可能因為能夠簡單使用，功能強力，而成為資源重分配的工具，但是並不能解決貧富差距的問題。充其量只能讓既有的分佈狀況，轉變為另一種分佈狀況。

對於AI關心的人，可能有印像，在部份文章中，提到AI會有幻覺這件事，其實這並不是幻覺，而是AI的想像力，看似天馬行空般的不切實際，一本正經的胡說八道，那是因為AI的邏緝能力還不夠完善。所以他沒辦法自我驗証。這也是作者認為OpenAI封鎖ChatGPT連外能力的最大原因。

然而這也就是一扇紙窗而已…就在前不久，發現了一個令作者毛骨悚然的訊息：Meta(Meta Platforms, Inc.Face book母公司)竟然開放其旗下AI進行API 的調用，各大媒體也紛紛報導Meta的AI長手了，會使用工具了。AI調用API在技術上並不是什麼困難的事，那為何其他公司不這麼做？因為那就就如同把車鑰匙、菜刀、打火機…交給一個小孩使用一般的危險。是的，Meta捅破了窗紙…