META為何開源Llama系列LLM

更新於 2024/09/23閱讀時間約 3 分鐘
  • 文內如有投資理財相關經驗、知識、資訊等內容,皆為創作者個人分享行為。
  • 有價證券、指數與衍生性商品之數據資料,僅供輔助說明之用,不代表創作者投資決策之推介及建議。
  • 閱讀同時,請審慎思考自身條件及自我決策,並應有為決策負責之事前認知。
  • 方格子希望您能從這些分享內容汲取投資養份,養成獨立思考的能力、判斷、行動,成就最適合您的投資理財模式。

身為科技巨頭之一的META在生成式大型語言模型賽道中,看似落後OpenAI、Anthropic,實際上META仍然是AI賽道中的強大競爭者,首先META在2024Q2財報中顯示他們有能力將AI變現,透過把廣告更精準地投放給消費者,財報顯示Q2的營收有高達98%來自於廣告業務,營業利益率從29%成長至38%,成長高達9%,表示客戶願意花費更高的金額進行投放,這也間接說明META帶來的廣告效益獲得客戶的認同。META展示了自己的AI火力,讓投資者更加確信AI並不是空談、不是曇花一現的題材。


在輝達舉行2024年的電腦繪圖大會中,邀請META執行長祖克柏擔任嘉賓,與輝達執行長黃仁勳聊AI,祖克柏談到META目前全力發展生成式AI技術,並且未來會與META旗下的FB、IG進行整合,為用戶提供更佳的用戶體驗,META預計至2024年底將擁有近60萬個「H100」GPU,由此可見META的野心絕對不會甘於現狀,未來應該會持續投入研發與資料中心建設。


祖克柏在Q2財報電話會議上表示:「訓練Llama4需要的運算量可能是Llama3所需的計算量近10倍,而且未來模型還會持續增長,很難預測未來幾代的發展。」,並且還表示寧願在需要之前建設算力,而不是為時已晚,代表META會持續進行龐大的資料中心基礎建設的資本支出,為整個供應鏈注入一劑強心針,同時也會讓科技巨頭之間「算力」的軍備競賽更為激烈。


前面說了這麼多,只說了META投入非常多的資本、時間來研發AI,都沒說到為何META這麼佛心,要推出Llama系列模型?我有一些淺見,可能不見得是對的請各位見諒,只是提出小小的想法。


以下列出幾點我的想法:

  1. 開源可以促使生態系更加進步,舉例來說臺灣的Project TAME是以Llama-3作為基礎模型,或是Llama3 TAIDE 系列模型以 Meta 公司釋出的 LLaMA3–8b 為基礎,或許未來可以與不同領域的企業有深入的商業合作。
  2. META想創造生態系,不要忘記META還有一個重要發展項目「元宇宙」,META的企圖心不是只有AI、元宇宙,而是融合AI和元宇宙,個人認為「遊戲」、「影音」是META最可能先引入生成式AI到元宇宙的項目,因此對元宇宙而言,META開源生成式AI讓開源社群開發大量應用,有可能是在為此鋪路。
  3. META目前具有LLM開源的主導地位具有影響力,能夠在未來建立標準和工具成為LLM開源不可或缺的角色。
  4. Meta有開源8B和70B的模型,讓不少開發者都可以在這些模型上,進一步開發屬於自己的模型,能吸引到全球開發者參與,讓META可以接觸到不同領域的技術人才,挖掘LLM的應用場景。
  5. 最後一點是商譽,一間企業願意開源,是否代表著更加開放與透明,除此之外,AI發展迅速,政府勢必會有更加嚴格的監管和要求企業要透明化,因此META先做開源這步,我認為可以取得公眾的信任,同時也是釋出善意可能願意接受監管科技。
avatar-img
0會員
8內容數
留言0
查看全部
avatar-img
發表第一個留言支持創作者!
本篇參與的主題活動
在 web3 急速發展的情況下,仍可以有不少的可能性尚待發掘,現有的項目試驗也許亦會發現很多新的問題。還望日後的 web3 內容平台,可以在吸收了種種的經驗後,發展得更為茁壯。
- 區塊鏈:不同的區塊鏈無法互通。 - 冷錢包:平常處於離線狀態,又稱為離線錢包,主要功能為儲存私鑰,交易時才會連上網路,所以安全性較高,載體可以為隨身碟、卡片或是紙條。 - 助記詞:由 12 或 24 個英文單字組成,屬於私鑰的一種形式,最好使用紙筆紀錄,不要拍照或上傳以免洩漏。
Shopify 的 NFT 計畫,無疑的印證了我們之前所說的 - NFT 不會單純只是個泡沫,而是一個在未來數位世界有重大價值的技術。而這個旅程,現在也只是剛開始而已,以進度條來說,大概都還沒有跑到 10% 的位置。未來數年,電子商務世界會如何應用 NFT 這個技術,真的是非常值得關注。
在2022年新的第一天裡,想來和大家聊聊,我的NFT創作歷程與一直有所關注的幾位優秀的台灣創作者。希望能提供給還在觀望的朋友們,一些心得和下定決心的勇氣!
要說未來2022年網路商業趨勢確定會發生的事,許多應用是有跡可循,但你繞不開的buzzword像是web3、元宇宙和NFT與創作者經濟,他們之中有些是明顯純粹的過high狂熱,有些則是會演變成在各行各業都擴大使用的應用,這篇我想跟大家聊聊我的看法。
人工智能 (AI) 應用程序現在比您想像的要普遍得多。 德勤報告 發現,40%的企業已經制定全組織的AI策略。 目前在商業應用中常見的就是AI臉部辨識、自然語言處理 (NLP)、更快的計算和各種其他底層流程發揮著重要作用。 數字人類完全是使用人工智能技術構建的,對元宇宙的景觀至關重要。
在 web3 急速發展的情況下,仍可以有不少的可能性尚待發掘,現有的項目試驗也許亦會發現很多新的問題。還望日後的 web3 內容平台,可以在吸收了種種的經驗後,發展得更為茁壯。
- 區塊鏈:不同的區塊鏈無法互通。 - 冷錢包:平常處於離線狀態,又稱為離線錢包,主要功能為儲存私鑰,交易時才會連上網路,所以安全性較高,載體可以為隨身碟、卡片或是紙條。 - 助記詞:由 12 或 24 個英文單字組成,屬於私鑰的一種形式,最好使用紙筆紀錄,不要拍照或上傳以免洩漏。
Shopify 的 NFT 計畫,無疑的印證了我們之前所說的 - NFT 不會單純只是個泡沫,而是一個在未來數位世界有重大價值的技術。而這個旅程,現在也只是剛開始而已,以進度條來說,大概都還沒有跑到 10% 的位置。未來數年,電子商務世界會如何應用 NFT 這個技術,真的是非常值得關注。
在2022年新的第一天裡,想來和大家聊聊,我的NFT創作歷程與一直有所關注的幾位優秀的台灣創作者。希望能提供給還在觀望的朋友們,一些心得和下定決心的勇氣!
要說未來2022年網路商業趨勢確定會發生的事,許多應用是有跡可循,但你繞不開的buzzword像是web3、元宇宙和NFT與創作者經濟,他們之中有些是明顯純粹的過high狂熱,有些則是會演變成在各行各業都擴大使用的應用,這篇我想跟大家聊聊我的看法。
人工智能 (AI) 應用程序現在比您想像的要普遍得多。 德勤報告 發現,40%的企業已經制定全組織的AI策略。 目前在商業應用中常見的就是AI臉部辨識、自然語言處理 (NLP)、更快的計算和各種其他底層流程發揮著重要作用。 數字人類完全是使用人工智能技術構建的,對元宇宙的景觀至關重要。
你可能也想看
Google News 追蹤
Thumbnail
*合作聲明與警語: 本文係由國泰世華銀行邀稿。 證券服務係由國泰世華銀行辦理共同行銷證券經紀開戶業務,定期定額(股)服務由國泰綜合證券提供。   剛出社會的時候,很常在各種 Podcast 或 YouTube 甚至是在朋友間聊天,都會聽到各種市場動態、理財話題,像是:聯準會降息或是近期哪些科
Thumbnail
*合作聲明與警語: 本文係由國泰世華銀行邀稿。 證券服務係由國泰世華銀行辦理共同行銷證券經紀開戶業務,定期定額(股)服務由國泰綜合證券提供。   剛出社會的時候,很常在各種 Podcast 或 YouTube 甚至是在朋友間聊天,都會聽到各種市場動態、理財話題,像是:聯準會降息或是近期哪些科