限時公開《AI霸主》:AI怎可能造福人類?解密AI巨頭OpenAI與DeepMind背後的真相|怪獸科技公司
限時公開

《AI霸主》:AI怎可能造福人類?解密AI巨頭OpenAI與DeepMind背後的真相|怪獸科技公司

更新於 發佈於 閱讀時間約 32 分鐘

上篇文章《奧特曼傳》聚焦 OpenAI 如何從「讓 AI 造福人類」的理想出發,演變成資本與權力的角逐賽,奧特曼與馬斯克分道揚鑣後,OpenAI 與微軟攜手推出 ChatGPT,席捲全球;然而,真正的較量並不僅限於兩人,而是以「AI 霸主」之名,在更廣闊的戰場上展開。

回頭看 AI 史會發現,鎂光燈原本要照在一個英國人身上,甚至 AI 時代奧本海默這個稱號,AI 教父辛頓說的也是他。他究竟是誰?這篇文章我們要擴大世界觀,談 OpenAI 與 Google、DeepMind 之間的競逐,解密 AI 霸主之爭的前世今生。

AI 時代雙雄:奧特曼與哈薩比斯

歷史上沒有任何組織像當今的科技巨頭一樣,掌握如此龐大的權力,觸及如此大量的人口。全球有 90% 的網路使用者使用 Google 搜尋引擎,70% 的人口在電腦上使用微軟的軟體。

然而,兩家公司依舊不滿足。微軟想要分食 Google 高達一千五百億美元的搜尋引擎業務,Google 則是覬覦微軟高達一千一百億美元的雲端業務。為了贏得戰爭,兩家公司剽竊對方的創意,所以追根究底,AI 的未來實際上是由兩個人書寫而成:山姆•奧特曼(Sam Altman)與德米斯•哈薩比斯(Demis Hassabis)。

因為奧特曼,才有 ChatGPT;因為哈薩比斯,ChatGPT 才能如此快速問世。兩人的經歷不僅確立當今人工智慧的競爭態勢,也預示未來的挑戰。

創新的兩難:Google、DeepMind 成為 OpenAI 的嫁衣

上篇文章提到馬斯克離開 OpenAI 後,當時業界都認為 OpenAI 已經處於崩潰的邊緣,此後更不可能與 Google 競爭。

但熟悉矽谷歷史的奧特曼明白,矽谷的歷史就是新創公司打敗巨頭的歷史,「創新的兩難」(The Innovator’s Dilemma)更是科技產業永恆的詛咒。這個理論認為,大公司往往會因為偏愛被廣泛使用的現有產品,忽視可能取代它們的新科技。

理論上,DeepMind 才應該是最早做出 ChatGPT 的公司。2017 年,DeepMind 最早提出 RLHF(人類回饋強化學習)的概念,這是 ChatGPT 湧現強大對答能力的關鍵一步;同年 6 月,Google 發表 NLP 領域全新架構 Transformer,成為後來所有大型語言模型的基礎架構,也是 OpenAI GPT 系列模型的基石。然而,DeepMind 和 Google 在 AI 領域的豐碩成果,最終還是為競爭對手做了嫁衣。

在 ChatGPT 出現之前,OpenAI 怎麼看都不像是產業的領頭羊。奧特曼後來的光環更應該加在另一個人身上,那就是 2024 年諾貝爾化學獎得主、Google 旗下公司 DeepMind的聯合創辦人、執行長哈薩比斯。

哈薩比斯的棋局人生:從西洋棋神童到 AI 戰略家

1976 年出生的哈薩比斯是一位西洋棋神童,曾獲得英國冠軍。如同奧特曼透過撲克牌學會心理學技巧與商業原理,哈薩比斯透過西洋棋學會以終為始擬定戰略:先設想一個目標,然後往回推論。

DeepMind創始人、AlphaGo之父

DeepMind創始人、AlphaGo之父

在一次西洋棋比賽他意識到,如果他可以讓電腦更有智慧、更有能力成為他的大腦延伸,或許能幫助科學家破解關於宇宙的難題,甚至是發現神聖的起源。哈薩比斯無法擺脫對遊戲的痴迷,所以他擬定一份長期計畫,結合自身的兩大興趣,專注於開發模擬現實世界的遊戲。如果電腦可以複製世上所有的色彩細節,擁有高度智慧的電腦或許就能找到方法,修復這個世界的漏洞;也就是在模擬過程中找到解決方法,然後應用到現實世界中。

憑藉超齡的才華,哈薩比斯於 16 歲獲得劍橋大學電腦科學系的錄取通知,卻因年齡尚小而須延後入學。大學畢業後,他投入電子遊戲公司的 AI 系統開發,甚至成立個人工作室,試圖將「AI 的魔力」化作一款劃時代的遊戲。後來他也發現,若想真正造就超越人類的智慧,不應單純為了娛樂而設計遊戲,而應利用遊戲模擬複雜場景,加速 AI 自主學習、推演,最終得到可應用於真實世界的解方。

DeepMind 誕生:構想走向實驗

哈薩比斯日後進入倫敦大學學院(University College London),攻讀神經科學博士學位。根據其他電腦科學家的說法,雖然他最終完成的論文篇幅較短,但是科學論述嚴謹。論文主題與記憶有關。在此之前,人們認為大腦的海馬迴主要負責處理記憶,但是哈薩比斯證明人類在想像時也會激發海馬迴運作。

他的論文被評選為當年度最重要的科學突破之一,但他沒有選擇繼續留在學術界,而是決定創業。他明白,如果想開發出真正的 AI,就需要比學術界更多的資金與計算資源。他曾說:「等學術機構給我們資源時,我可能已經 50 歲了,我沒有時間等。」

2010 年,哈薩比斯在倫敦創立 DeepMind,獲得矽谷投資大咖彼得·提爾的青睞,成為其首筆海外投資。另一位早期投資者則是馬斯克。馬斯克對 AI 的未來充滿憂慮,他曾對哈薩比斯說:「如果 AI 失控,人類得有能力逃到火星。」哈薩比斯則冷靜地回應:「AI 會跟著人類一起上火星。」

為何馬斯克擔憂 AI 失控?因為他深受牛津哲學家尼克·伯斯特隆姆(Nick Bostrom)影響,伯斯特隆姆曾在著作《超智慧》提出一個著名的隱喻:「如果 AI 被指派製造最多的迴紋針,它可能會毀滅人類,因為那是完成任務最有效的方式。」這個案例也成為 AI 安全社群中著名的警語:「避免被迴紋針化(paper-clipped)」。馬斯克與哈薩比斯的理念分歧日益擴大,儘管馬斯克繼續投資 DeepMind,但他始終保留高度警戒的態度。

募資困境與科技巨頭的覬覦

但 DeepMind 的發展並不順利,因為 AI 研究極度燒錢,DeepMind 曾嘗試打造時尚推薦系統與太空競速遊戲,但都無法有效變現。這時,三大科技巨頭開始接觸 DeepMind。

2013 年,Facebook 提出 8 億美元的併購案,但因哈薩比斯要求設立 AI 倫理與安全委員會而談判破局。他對外表示公司將維持獨立,但其實內心早已對募資疲乏,他發現真正做研究的時間變得非常稀少,讓他十分沮喪。拒絕祖克柏的高額報價之後不久,他忍不住想,如果把公司賣給矽谷的公司,不知道能賺多少錢,尤其人工智慧突然間變成各大科技巨頭垂涎的目標。

雖然過去深度學習一直被視為冷門領域,但 2012 年史丹佛大學教授李飛飛發起 ImageNet 挑戰賽,推動 AI 視覺辨識能力的發展。同年辛頓的團隊開發出突破性的深度學習模型,震驚業界。突然間,所有科技公司都想要這些 AI 專家。

接著,特斯拉的馬斯克也提出收購 DeepMind,並計畫將其技術應用於自動駕駛,但哈薩比斯與合夥人對馬斯克的獨裁風格存有戒心,因此他們最後拒絕馬斯克的提議,卻沒有意識到,臉皮薄的馬斯克不喜歡別人對他說不;他們不知道,這個決定會為他們帶來多少麻煩。沒過多久,哈薩比斯又收到另一封電子郵件。這次來自 Google。

Google 的出手與雙方的理念契合

2013 年底,Google 第一次聯繫 DeepMind 討論收購事宜。早在接觸 DeepMind 之前,Google 就已經試圖自行研發通用人工智慧(AGI)。創辦人佩吉從來不認為 Google 是一家搜尋引擎公司,他始終相信 AI 是未來的終極平台。因此他授權 Google Brain 團隊展開實驗,由當時的明星學者吳恩達(Andrew Ng)領軍,目標是打造一個能夠模擬人腦結構、具備人類智慧的 AI 系統。

然而,這條路很快遇到了理論與現實的雙重阻礙。團隊逐漸發現,人類對大腦的理解比想像中更淺薄。即使知道大腦擁有約 900 億個神經元彼此連結,但對訊號如何運作、記憶如何形成、意識如何啟動,依然一知半解。這使得「精準模仿生物機制」變得既緩慢又不可靠。

吳恩達決定改變策略。他發現與其試圖複製大腦,不如利用資料與算力讓神經網路「規模化」,或許能帶來更可行的突破。他在史丹佛的實驗顯示,只要模型夠大、數據夠多,表現會以非線性方式成長。他將這個觀察寫進一份四頁的提案,建議佩吉投資「大規模人腦模擬」技術,而非生物還原模擬。佩吉被這份報告打動,批准了 Google Brain 朝深度學習轉向的研究方向。

這項轉向的確為 Google 帶來了強大技術基礎,但也種下了後來路線漂移的種子。隨著模型在廣告點擊率優化、推薦系統等商業場景中展現優勢,Google 高層愈來愈傾向將 AI 作為提升利潤的工具,而不是推進 AGI 理想的路徑。幾年後,Google Brain 已經不再是 AGI 的試驗場,而是廣告部門的算力引擎。吳恩達後來坦言:「這並不是我當初的目標」,但他最終選擇成為 Google 體系的一部分,沒有離開。

也正因為這樣的轉變,Google 重新思考:如果 AGI 的夢還沒死,就需要一個仍堅持長線願景的團隊來接棒。隔年,Google 以 5 億美元收購 DeepMind,並同意設立 AI 倫理委員會、保留倫敦營運據點,並允諾 DeepMind 可獨立運作。這讓 Google 內部形成兩個平行 AI 部門:以應用為導向的 Google Brain,與追求長期願景的 DeepMind。

但這樣的架構也埋下了後患:DeepMind 研發出的 AI 系統,如打敗世界圍棋冠軍李世乭的AlphaGo 和 AlphaFold(蛋白質摺疊預測),雖然在學術界大獲成功,卻難以變現。

OpenAI 的出現與哈薩比斯的震怒

收購完成後,Google 宣布公司架構重組為 Alphabet,但原本承諾賦予 DeepMind 更多自治權的計畫卻遲遲沒有落實。

與此同時,在太平洋另一端的舊金山,幾位新創公司創辦人正著手成立另一個研究實驗室,目標與 DeepMind 相同。他們在鼓吹另一個重要的新概念:安全的開發通用人工智慧,造福全人類。這種說法聽起來有點刺耳,似乎是在暗示另一種開發人工智慧的方法(也就是哈薩比斯的做法)並沒有幫助人類,只是在幫助 Google。

AI 霸主是由這兩間公司書寫

AI 霸主是由這兩間公司書寫

更糟的是,這個新組織是由哈薩比斯之前的投資人馬斯克催生的,名為 OpenAI。奧特曼甚至將 OpenAI 比作「曼哈頓計畫」,展現了他渴望開發出具有劃時代意義的強大 AI 的決心。哈薩比斯知道愈多關於 OpenAI 的事情,就愈是火大。他是全球第一位認真嘗試開發通用人工智慧的人,5 年前,這還是非常少數派的想法,他等於冒著得罪科學界的風險在做這件事。但現在糟糕的是,這個新的競爭者有可能會利用他的想法。

OpenAI 在網站上列出 7 位共同創辦人,哈薩比斯仔細看名單之後才意識到,其中有五個人過去幾個月曾在 DeepMind 擔任顧問或是實習生。據與他共事過的人透露,哈薩比斯簡直氣瘋。哈薩比斯曾與員工公開討論要如何採取不同策略,才能成功開發通用人工智慧,例如,打造自主代理或是教導人工智慧模型熟練西洋棋或是圍棋等遊戲。可是現在,卻有 5 位熟知所有細節的科學家要成立另一個組織,和他打對台。

訓練 AI 的本質:一場算力與資本的戰爭

AI 技術的發展,特別是深度學習的突破,人們逐漸認識到,訓練出強大的人工智慧模型需要餵食超級巨量的資料進行學習 。DeepMind 的 AlphaGo 學習了數百萬份棋譜 ,而後來的語言模型則需要理解海量的文本數據。

更重要的是,AI 的訓練還需要求解超級巨大的類神經網路模型,不斷優化參數。這就需要大量的 GPU 高階晶片進行海量運算。晶片要錢、程式工程師要錢、電力也要錢 。這種驚人的花費,甚至連哈佛和史丹佛這樣有錢的學校都嫌貴。AI 研究不再只是學術探索,成了一場算力和資本的戰爭。

FOMO 時刻:科技巨頭全面投入

隨著人工智慧不斷創造新的里程碑,各大科技公司開始正視並競逐這一領域。Google 收購 DeepMind 之後,祖克柏也成立 「Facebook AI Research」,並聘請全球頂尖的深度學習專家楊立昆(Yann LeCun)掌管該部門。

馬斯克一直關注 DeepMind 的發展,開始出現 「錯失恐懼症」(FOMO),擔心自己在這場 AI 革命中被邊緣化。儘管他長期對 AI 持悲觀態度,甚至警告 AGI 可能帶來人類存亡危機,但他仍然選擇更積極地介入AI 研發,特斯拉的自動駕駛、SpaceX 的無人火箭導航,還是他成立的腦機介面公司 Neuralink都是。

馬斯克明白,如果他能開發與 Google 同樣強大的 AI,這將極大有利於他的企業發展。因此,他的 AI 佈局不僅基於道德與人類未來的考量,也與個人利益緊密相連,這是他找上奧特曼創立 OpenAI 的主因,「防止哈薩比斯背後的谷歌開發出無所不能的人工智慧」。馬斯克非常擔心 OpenAI 的技術落後於 DeepMind,而且開始向奧特曼抱怨,OpenAI 招募了一批頂尖科學家,卻未能擊敗 DeepMind。

被壓制的早期 OpenAI:從邊緣到突破

回顧 OpenAI 最初幾年的發展,可以說是被 Google 和 DeepMind 全面超越。2016 年,OpenAI 只有發表部落格文章和學術論文,剛剛累積一些知名度,在學術界激起一些討論;2017 年,OpenAI 在 DOTA2 遊戲上戰勝人類頂級選手,短期內獲得一些關注,但隨後 Google 便發表 Transformer 模型,這個模型奠定大型語言模型的基礎,震驚整個業界。

2018 年,OpenAI 基於 Transformer 發表 GPT 第一代模型,但 Google 隨即發表具有跨時代意義的 BERT,比 GPT-1 參數多 3 倍,在所有表現上幾乎都碾壓 GPT-1。

路線分歧:哈薩比斯的堅持與奧特曼的靈活

但科技公司的成功不僅依賴科技創新,還需要強大的組織管理和明智的戰略決策。哈薩比斯熱愛電玩,並提出用電玩來推動機器學習的發展,奧特曼則更擅長權力的遊戲,同時,奧特曼深知,單靠一群富有理想的科學家並不足以成就偉業,資本主義才是整合資源的最佳方式。哈薩比斯和 DeepMind 將太多的時間和精力花在和母公司 Google 的內耗上;與之相比,奧特曼顯然更知道誰才是真正的對手。

與哈薩比斯相比,奧特曼的身段明顯更為柔軟。因為微軟的投資,OpenAI 也失去一定的獨立性,OpenAI 使用微軟的巨型電腦伺服器,透過 Azure 雲端服務來訓練人工智慧模型,並將 OpenAI 未來產品的技術許可權獨家授權給微軟。

Google 危機與 Bard 的慘敗

2022 年 11 月 30 日,OpenAI 正式推出 ChatGPT,此時的矽谷正值聖誕假期前夕,往年這段時間,科技巨頭們的辦公室總是充滿節日氣氛,員工們準備放假,氣氛輕鬆愉快。

然而,今年的 Google 總部卻被一層陰霾籠罩。執行長皮蔡已經連續多天測試ChatGPT,他的心情越來越沉重。他意識到,Google 正面臨創立以來最大的一場危機。

Google 曾經是 AI 領域的絕對霸主,從收購 DeepMind、延攬 AI 教父辛頓到開發 AlphaGo 擊敗圍棋世界冠軍,無一不證明它在 AI 領域的領導地位。甚至 ChatGPT 背後最關鍵的技術——Transformer 模型,也是 Google 的研究人員發明的,LaMDA 也早在 GPT-4 問世前數年就已開發完成。但 Google 的決策者一直擔心,這些技術會對其既有業務模式帶來風險,或是影響公司聲譽,因此選擇將它們雪藏。

但也因為這樣創新的兩難,這場 AI 革命的主導權卻不在 Google 手中,而是落入了一家規模遠小於它的 OpenAI。皮蔡深知,Google 必須迅速行動,否則這家擁有全球最先進技術的公司,將會在 AI 時代失去主導權。

深度重組:DeepMind 與 Google Brain 合併

2023 年 1 月,Google 採取了第一步行動。皮蔡宣布,公司將進行有史以來最大規模的裁員計畫,削減 1.2 萬個職位,占總員工數的 6%。兩個月後,Google 匆忙推出了 Bard,試圖與 ChatGPT 競爭。

然而,Bard 的推出幾乎沒有掀起任何波瀾。因為就在 Bard 發布的一週前,OpenAI 早已發布 GPT-4,將 AI 技術的應用提升到全新層級。無論是技術能力還是市場影響力,Bard 都遠遠落後於 OpenAI 的產品,Google 從未如此狼狽。這家在 AI 領域傲視群雄的科技巨頭,如今卻不得不倉促追趕一個後來居上的競爭對手。皮蔡開始重新審視 Google 內部的 AI 資源,他知道,他還有一張王牌——DeepMind。

DeepMind 在 AI 領域確實擁有頂尖的科學研究能力,但它的戰略重心卻一直與 OpenAI 不同。哈薩比斯從一開始就執著於用模擬與遊戲環境訓練 AI,這種方法曾讓 AlphaGo 成功擊敗李世乭,但卻沒能讓DeepMind 搭上語言模型的浪潮。他們將研究焦點放在強化學習、蛋白質摺疊、能源效率等科學應用,卻忽視了 OpenAI 早已察覺的趨勢——AI 最重要的應用不在於學術突破,而是大規模語言模型與人類互動的能力。

哈薩比斯長期堅持,通用人工智慧(AGI)應該透過模擬環境學習,他認為 AI 需要掌握更深層的認知能力,而不僅僅是統計學習語言模式。因此,DeepMind 的 AlphaFold(蛋白質摺疊) 在科學界獲得巨大成功,卻無法像 ChatGPT 一樣改變大眾的日常生活。

這種策略上的錯誤導致 DeepMind 在 AI 語言模型的發展上嚴重落後於 OpenAI。當 ChatGPT 橫空出世時,DeepMind 內部才開始意識到,自己的研究方向已經無法適應市場需求。儘管他們擁有 Google 的算力資源,但由於過去多年來始終未將語言模型視為核心技術,當 Bard 上市時,已經遠遠落後於 GPT-4。

於是,2023 年 4 月,Google 決定進行 DeepMind 與 Google Brain 的合併,成立全新的「Google DeepMind」,試圖重新集中資源,追趕 OpenAI。哈薩比斯被任命為整合後的新部門負責人,肩負著縮小與 OpenAI 技術差距的重任。

當 Google 在 AI 領域努力追趕時,OpenAI 已經向前邁出更大一步。在 Google 內部還在重新調整策略的時候,奧特曼已經從微軟獲得了一筆前所未有的巨額投資,從微軟獲得「10 張鈔票」(10 bills)。100 億美元。代表著微軟對 OpenAI 的總投資金額已經達到 130 億美元。

這筆資金的規模令人瞠目結舌。微軟 2023 年全年的淨利潤為 720 億美元,而這筆投資幾乎佔到了五分之一。這筆交易不僅確立了 OpenAI 在 AI 領域的地位,也讓微軟成為 AI 軍備競賽中的核心玩家。

Anthropic Claude 的挑戰

另一方面,還有一間公司 Anthropic 也崛起為 AI 軍備競賽中的重要競爭者。Anthropic 由前 OpenAI 研究員達里奧·阿莫迪(Dario Amodei)及其團隊創立,他們離開 OpenAI 的理由是對 AI 安全性的擔憂。

阿莫迪長期關注 AI 的安全性,但他並不擔心 AI 的偏見問題。他早在 OpenAI 時期便撰寫過研究論文,探討 AI 可能引發的風險,特別是當系統被賦予錯誤的獎勵目標時,可能會產生難以預測的意外後果。這種安全意識也延續到了 Anthropic,他們將「AI 安全」視為品牌核心競爭力,並強調 Claude 模型的可控性與可靠性。

然而,Anthropic 的發展並非一帆風順。該公司早期主要資金來自加密貨幣億萬富翁山姆·班克曼-佛里德(Sam Bankman-Fried)創辦的 FTX 交易所,但 FTX 於 2022 年 11 月爆雷,導致 Anthropic 失去一個主要資金來源。這一事件使得 Anthropic 在 ChatGPT 爆紅後,錯過了快速上市的黃金機會。

直到 2023 年 3 月 14 日,Anthropic 終於推出自己的聊天機器人 Claude,但 OpenAI 此時已經發布了更強大的 GPT-4,讓 Claude 在市場上的競爭力大打折扣。

Anthropic 內部強調 AI 應以人類為中心,並致力於打造更安全、更符合倫理的 AI 系統。這種安全優先的策略,讓 Anthropic 看起來更像是一家非營利組織。但在 AI 軍備競賽中,安全性並不足以支撐一家公司的成長。為了生存,Anthropic 最終還是接受了 Google 和亞馬遜的投資,並與這些科技巨頭深度合作,以獲取必要的運算資源。

AI 霸主的未來格局:理想與權力的矛盾

為了人工智慧的管理問題,奧特曼與哈薩比斯絞盡腦汁,他們清楚知道,必須負責任的管理這項科技,全球才能避免不可逆的傷害。但為了實現 AGI(通用人工智慧),他們需要科技巨頭的龐大資源。於是陷入一個矛盾:他們原本想提升人類福祉,卻最終將科技權力交到微軟與 Google 這些企業手中,讓 AI 競爭淪為企業霸權之爭。

為了造福人類,卻落入資本霸權

發展 AI,確實會說要「造福人類」。而且在過程中,研究團隊都說要不斷設計「研究倫理機制」,確保 AI 的發展不致於悖離人本精神。但在「競爭中造福人類」,這在邏輯上就是個笑話。

朱敬一院士的比喻很有趣:佛教裡的大菩薩,都發願要普度眾生,那當然是某一種版本的「造福人類」。但是大菩薩都有千萬種法門,有的立志要「聞聲救苦」,有的立志「地獄非空誓不成佛」,有的教人不斷累積善根。但是 A 大菩薩若是看到 B 大菩薩宣法成功,度化千萬人,A 應該會替 B 高興。所以簡言之,真正想要造福人群的人,是樂見他人「造福得比我還成功」的。

造福人群,怎麼可能有「競爭」?會嫉妒「第一個造福人群成功」的,其目的絕對不是要造福人群,這些科技巨頭的競爭都是在競逐商業利益,運用用戶的資料訓練模型。

DeepMind 的泡沫與 Google 的焦慮

OpenAI 的意氣風發,也意味著哈薩比斯處於 DeepMind 的泡沫中心。多年來,DeepMind 自詡為 AI 領域最具道德感的研究機構,但隨著 OpenAI 迅速商業化,它被迫改變策略。ChatGPT 橫空出世之後,DeepMind 被迫為 Google 開發更好的版本。

哈薩比斯已經接管整併後的 Google DeepMind,負責監督大型語言模型 Gemini 的開發,這個人工智慧助理運用 AlphaGo 的技術,擅長策略與規畫。Gemini 可以處理文本、「觀看」圖像、進行推理,代表它比 Google 之前倉促推出、結果犯下難堪錯誤的聊天機器人 Bard 還要強大。然而,Google 太想要超越 OpenAI 與微軟,所以這次依舊倉促的推出 Gemini,甚至是誇大它的能力。2023 年聖誕節前,Google 在 YouTube 發布了一段展示 Gemini「看見」與「理解」世界的影片,但事後被揭露只是剪輯後的行銷素材。

AI 加速派 vs. AI 減速派:科技巨頭內部的路線鬥爭

另外, 「AI 加速派」與「AI 減速派」的對抗 也在科技圈內部形成分歧。某些人支持「有效加速主義」(e/acc),認為 AI 應該儘快發展,以解決人類問題;而另一派則呼籲應該放慢腳步,以避免風險。

像是奧特曼被解僱,就來自於董事會成員認為,奧特曼正在破壞這個目標,覺得他似乎正在 OpenAI 外部建立龐大的人工智慧帝國。他與前蘋果設計師強尼•艾夫(Jony Ive)討論開發一款「人工智慧界的 iPhone」,還試圖向中東主權財富基金募集數百億美元,成立人工智慧晶片製造公司。

另外還有世界幣(World coin),這是奥特曼成立的加密貨幣網路,全世界任何人只要掃描自己的虹膜,就可以取得數位身分。奧特曼宣稱,世界幣的目標是當網路上充斥大量機器人時,可以更準確的辨識真實的人類,以及分配數兆美元的通用人工智慧財富。但是在批評者看來,更像是一場大規模的資料蒐集行動。

在科技巨頭與矽谷的泡沫中,想要堅守道德原則幾乎是不可能的事

關於 OpenAI 技術的商業化速度,奧特曼與蘇茨克維的看法日益分歧。蘇茨克維更深入參與監督公司的人工智慧安全,他的擔憂與之前的阿莫迪沒有什麼不同。他尤其不喜歡幾週前公司推出的 GPT Store,因為如此一來,任何軟體開發人員都能夠建立客製化的 ChatGPT,然後從中獲利。

開發 AI 的成本已經高到非科技巨頭無法負擔的地步,學術界與新創公司只能租用微軟、Google 或亞馬遜的雲端服務,等於變相被科技巨頭控制。輝達作為 AI 計算的關鍵供應商,在 2023 年 5 月成為全球第 6 家市值突破 1 兆美元的企業。

技術從來不是中立的:AI帶來的結構性風險

這場 AI 競爭反而幫助既有巨頭強化壟斷地位。目前,科技巨頭的版圖已經劃分明確:Google 掌控搜尋市場,微軟主導軟體市場,亞馬遜爭奪雲端業務,Meta 利用社群數據訓練 AI。

微軟與 Google 都是上市公司,董事長與經理人都對股東利益負有義務,他們「必須」追求利潤。企業當然也有社會責任;但是這些責任必須要明確刻劃,經理人才能依循,例如節能、環保、不歧視、尊重多元等等。

但是發展 AI 科技,究竟有什麼社會責任呢?因為將來的 AI 究竟長什麼樣子,根本沒有人知道,所以我們也就很難刻劃 AI 開發業者的社會責任。頂多就只能說:「不可以設計魔鬼終結者」這樣的虛幻責任。在社會責任不明的情況下,AI 的開發業者,恐怕是完全受資本主義的主宰,那麼最後的結果,就一定是「加劇不公平」。

如果 AI 投資平均報酬率不怎麼樣,那麼這些首富當然不會去玩。而他們下海去投資,就表示投資報酬率遠大於市場平均。有些人天真的以為,AI 可以幫助所有的人。但歷史上所有的科技創新,都不是「中性」的。社會上有些人「特別會用 AI」,他們就會得利。例如,諾貝爾經濟獎得主 Acemoglu 與 Johnson 就指出,「棉紡機的發明有利於奴隸蓄主,不利於奴隸」。鐵路發明有利於資本家,不利於勞工。政治學教授指出,AI 技術有利於獨裁者,不利於平民。

AI 時代真正的危機,是人類如何利用技術

幾乎所有對於「AI 倫理衝擊」的討論,都是著重在「AI 不要回過頭來傷害人類」,像是魔鬼終結者那樣,或是像馬斯克說的「智慧機器人把人類追到爬樹逃生」。這根本是不了解「人類」。以前發展原子分裂技術,也是擔心「原子彈毀滅人類」。但是不要忘記主詞與受詞:是一群人用原子彈毀滅另一群人。

原子彈從來就不在人類的對立面,而是我們人類:我們經常喜歡毀滅其他人;即使沒有原子彈,希特勒還是可以殺 600 萬人。即使沒有集中營,史書上還是記載「秦將白起坑趙卒四十萬」。所以,不是科技的問題,而是人的問題。這些都是「技術在一群人與另一群人之間興起了磨擦,製造了傷害」,而不是「技術傷害了人類」。

誰掌控 AI,誰就掌控未來:我們無法迴避的 AI 霸主之爭

開發通用人工智慧的競賽源於一個疑問:如果真的開發出比人類還要聰明的人工智慧系統,結果會如何?兩位走在最前端的創新者努力尋找答案,但是他們的追求逐漸變成激烈的競爭。

哈薩比斯相信,通用人工智慧能夠幫助我們更了解宇宙,推動科學新發現;奧特曼則認為,通用人工智慧能夠創造巨額財富,提升人類的生活水準。他們的終極目標要如何實現,沒有人能確定。他們不知道通用人工智慧會如何推動這些發現或是創造那麼多財富,甚至不知道它是否會造成破壞。他們只知道,他們必須持續朝著目標邁進,必須搶得先機。唯有如此,人工智慧的開發才能嘉惠全體人類,讓全球最強大的公司受益。

Supremacy:AI, ChatGPT, and the Race That Will Change the World

Supremacy:AI, ChatGPT, and the Race That Will Change the World

我們很難預測,長期而言會產生什麼後果。有些經濟學家表示,強大的人工智慧系統不僅不會為每個人創造可觀的財富,反而會使得不平等的問題日益惡化,同時更進一步擴大貧富差距。

科技圈流傳一種說法:當通用人工智慧最終實現時,它不會是獨立的智慧實體存在,而是透過神經接口成為我們心智的延伸。關於這塊領域的研究,目前走在最前端的是伊隆.馬斯克成立的腦機介面公司 Neuralink,馬斯克希望有朝一日能在數十億人的大腦中植入晶片。馬斯克也一直在加速實現這個目標。

根據馬斯克的傳記作家艾胥黎•范思描述,馬斯克在 2023 年曾對工程師說:「我們必須趕在人工智慧接管一切之前達成這個目標。我們要以瘋狂的急迫感達到那個目標。」馬斯克相信,透過大腦植入晶片,人類就能避免被未來的超級人工智慧毀滅,所以他希望Neuralink 能在 2030 年之前為超過兩萬兩千人進行植入手術。

但是,比起人工智慧失控更急迫的問題是偏見。當更多網路內容是由機器生成時,我們不知道種族與性別刻板印象未來會如何演變。哈佛大學政府與科技教授拉坦雅•斯維尼(Latanya Sweeney)預估,幾年後,網路上 90% 的文字與圖像不再由人類產生,多數我們看到的內容將由人工智慧生成。現在,語言模型被用來每天生產數千篇文章,以賺取廣告收入,連 Google 都難以辨別。

未來會發生什麼事,將取決於少數人的決策以及他們身處的系統力量。當我們詢問,是否可以信任奧特曼與微軟、以及哈薩比斯與 Google 建構人工智慧的未來,答案卻發現,在這件事情上我們幾乎沒有選擇的餘地。奧特曼與哈薩比斯原本希望 AI 造福人類,為了繼續留在賽場上、累積權力,最終卻將技術交到了全球最強大企業的手中。我們別無選擇,只能見證這場 AI 革命的發展,並付出代價。


raw-image

🤖 怪獸科技公司旗下五大版圖

最懂你的 #科技入門:一起培養在快速變化社會的超強適應力

🗣️ 節目|怪獸科技公司 Podcast(每週日晚上 9 點各大平台首播)

✍️ 專欄|怪獸科技公司 vocus 沙龍

🎥 影音|怪獸科技公司 YouTube:來賓焦點訪談✖️重點短影音

🔥 社群|怪獸科技公司 IG:怪獸科技公司/商管人文✖️人生職涯

📰 電子報|怪獸雙週快報:1 則熱門時事分析✖️ 2 本人生思考書摘

avatar-img
怪獸科技公司✖️沙龍
27.0K會員
438內容數
你是否有想過,為什麼看過這麼多成功的人的例子,聽過這麼多厲害的人他們的分享,有時候自己卻好像只是在原地踏步呢?《怪獸科技公司》第二季將從科技產業的角度切入,透過跨領域的視野,帶你掌握各種必備的自我管理能力與心法,一起用科技去思考你的人生。
留言
avatar-img
留言分享你的想法!
本文探討 OpenAI 執行長山姆·奧特曼的崛起之路,以及他和伊隆·馬斯克的合作與決裂。從奧特曼的童年經歷、創業歷程,到 OpenAI 的創立、轉型以及與微軟的合作,探討了 AI 發展的潛力和風險,以及對人類未來的影響。
本文從《張忠謀自傳:下冊》,拆解張忠謀如何從德州儀器副總裁,歷經三次辭職低潮,最終在56歲創立台積電並使其成為世界級企業的歷程,分析張忠謀的管理哲學、商業模式、技術策略和關鍵決策,例如選擇ASML設備、與蘋果的策略聯盟等,以及台積電如何利用學習曲線理論、規模經濟和投資策略來擊敗競爭對手。
輝達的成功,不僅來自技術突破,還來自戰略選擇。在 GPU 的運算潛力尚未被業界認可時,黃仁勳率先押注 AI,建立 CUDA 生態系統,讓輝達成為 AI 產業的重要一環。然而,輝達能快速崛起、抵禦市場風暴,還有更深層的原因,那就是黃仁勳的管理哲學。
本文探討 OpenAI 執行長山姆·奧特曼的崛起之路,以及他和伊隆·馬斯克的合作與決裂。從奧特曼的童年經歷、創業歷程,到 OpenAI 的創立、轉型以及與微軟的合作,探討了 AI 發展的潛力和風險,以及對人類未來的影響。
本文從《張忠謀自傳:下冊》,拆解張忠謀如何從德州儀器副總裁,歷經三次辭職低潮,最終在56歲創立台積電並使其成為世界級企業的歷程,分析張忠謀的管理哲學、商業模式、技術策略和關鍵決策,例如選擇ASML設備、與蘋果的策略聯盟等,以及台積電如何利用學習曲線理論、規模經濟和投資策略來擊敗競爭對手。
輝達的成功,不僅來自技術突破,還來自戰略選擇。在 GPU 的運算潛力尚未被業界認可時,黃仁勳率先押注 AI,建立 CUDA 生態系統,讓輝達成為 AI 產業的重要一環。然而,輝達能快速崛起、抵禦市場風暴,還有更深層的原因,那就是黃仁勳的管理哲學。