元宇宙巨頭的AI野心：Meta 推出Llama 3.1 模型，挑戰 AI 霸主地位
閱讀時間約 2 分鐘
在AI領域的競爭中，Meta再次展現了其不可忽視的實力。Mark Zuckerberg的公司最近發布了他們迄今為止最強大的大型語言模型 Llama 3.1，這不僅是免費的，而且還可以說是開源的。這一舉動無疑將在AI界掀起巨浪，但它真的能與OpenAI和Google等巨頭抗衡嗎？讓我們一起深入探討這個新模型的特點和潛力。
Llama 3.1：Meta的AI王牌
模型規模與訓練成本
Llama 3.1的訓練過程可謂是驚人的：
- 使用了16,000個Nvidia H100 GPU
- 訓練成本可能高達數億美元
- 耗電量足以供應一個小國家
這種規模的投入凸顯了Meta在AI領域的野心和決心。
技術規格
- 參數量：4050億
- 上下文長度：128,000 tokens
- 版本：8B、70B、405B（B代表十億參數）
根據基準測試，Llama 3.1在某些關鍵指標上甚至超越了OpenAI的GPT-4和Anthropic的Claude 3.5 Sonnet。
開源還是半開源？
Meta宣稱Llama 3.1是開源的，但事實上存在一些限制：
你可以用它賺錢，只要你的應用每月活躍用戶不超過7億。否則，你需要向Meta申請許可。
這種"有條件開源"的策略既推動了創新，又保護了Meta的商業利益。
訓練數據的神秘面紗
雖然模型權重是公開的，但訓練數據仍然是個謎。可能包括：
- 你的部落格
- GitHub倉庫
- 2006年的Facebook帖子
- 甚至可能包括WhatsApp消息
這引發了對數據隱私和道德使用的擔憂。
實際表現如何？
儘管基準測試結果令人印象深刻，但實際使用體驗可能會有所不同：
- 編碼能力：相當不錯，但仍落後於 Claude。
- 創意寫作：表現良好，但非最佳。
- 對新概念的理解：在處理未發布的新功能時表現欠佳。
AI發展的現狀反思
在過去的一年裡，我們看到了多家公司推出大型模型，但它們似乎都達到了相似的能力水平：
- OpenAI從GPT-3到GPT-4實現了巨大飛躍
- 之後的進展多為小幅增長
- 預言中的"天網"級人工智能仍未出現
Meta的獨特定位
在AI炒作逐漸降溫的背景下，Meta的做法顯得格外理智：
- 提供相對開放的模型
- 保持技術透明度
- 推動AI民主化
雖然可能隱藏著某些商業動機，但Llama項目無疑為Zuckerberg贏得了一些讚譽。
結論
Llama 3.1的發布標誌著AI領域競爭的新階段。儘管它可能不是革命性的突破，但它代表了大型科技公司在AI開發方面的持續投入和進步。
#人工智能 #Llama3.1 #Meta #開源AI #AI發展
留言0
查看全部
你可能也想看
「設計不僅僅是外觀和感覺。設計是其運作的方式。」 — Steve Jobs
身為一個獨立文案，許多人會以為我們的生活只需要面對電腦，從無到有，用精巧的文字填滿空白的螢幕，呈現心目中獨具風格的作品。
——有的時候可以如此，但其實這是我們夢寐以求的偶發日常。
更多的時候，白天的工作時間總被各種繁雜
台股、美股近期明顯回檔，市場敘事發生改變，壞消息一樁接一樁出現，下一步該怎麼走呢？本文將探討近期的宏觀經濟事件，並分享個人的操作思考。
社群科技巨頭 Meta 臉書，在上周正式發布了今年第三季的財報。在最新一季的成績單中，Meta 無論是在營收或者是獲利上，都創下了歷史新高，也超越了市場預期。在上一季 Q2 的財報分析結論中，我們說到，Meta 在前進的路線上，已經沒有烏雲。本季的成績單，是否能夠持續支撐這樣的說法呢？
在這個科技日新月異的時代，AI技術已經成為了我們生活中不可或缺的一部分。而最近，一家名為Character.AI的公司，憑藉其獨特的技術和創新思維，成功吸引了全球的目光。
【深入了解Character.AI】
Character.AI不僅是一家AI公司，它更是一家致力於情感型人工智能的領軍企業。
2022 年營運上遭受到嚴重亂流的Meta 臉書，在今年第一季終於交出了一個止跌回穩的財報，算是一部分走出了去年的低谷。而外界當然也會高度關注，這樣的狀況，是否能夠延續到今年第二季，確認Meta 已經重新開始回到健康成長的軌跡？
展期｜2022.10.8–2023.3.5
地點｜高雄市立美術館101-103展覽室
官網｜https://being-x.kmfa.gov.tw/
主辦單位｜高雄市立美術館
工作團隊｜館長：李玉玲，執行監督：林羿妏、曾芳玲、洪金禪、陳秀薇、陳茹萍、羅潔尹、郭宗祐，策展團隊：方彥翔、謝宇婷、吳家男
在過去 20 年，整個世界的大多頭經濟增長中，科技進步是最主要的驅動力，這也讓越來越多人開始關心，未來的科技大趨勢到底是什麼。所以，在 2023 年初第一篇的科技巨頭解碼，就讓我們一起來研究看看，究竟外界認為 2023 年的科技趨勢是什麼，以及 Miula 我對於這些科技趨勢預測的看法。
知名投資人兼 Meta 的法人股東 Brad Gerstner 前幾天對 Meta 發出一份公開信，希望 Meta 能夠做出正確動作，挽回投資人的信心。他的要求包括了 – 裁員 20%、資本支出減少 50 億美元，以及每年投資到元宇宙的資金不要超過 50 億美元......
就在前幾天，Meta 正式對外發布了一篇論文，公開了他們的一個新技術叫做 QuestSim – 這是一個利用神經網路深度學習技術，去計算與模擬出 VR 頭盔配戴者全身動作的一個演算法。
對於我說，Omniverse 到底是一個怎樣的產品，是個怎樣的平台，一直是個很困擾的問題。因為 Omniverse 從我最早看到的第一個版本，到現在最新的樣貌，其實已經擴充與改變了非常多。
無論是成功跨出加密貨幣領域，讓主流世界瘋狂追逐的 NFT，又或者是在美國台灣都引起熱議，並成為炒股話題之一的元宇宙，在過去幾個月，都是熱到不能再熱的科技話題。不過，在這兩個名詞大紅之際，也同時有很多人，質疑他們其實是泡泡，是被過度追捧但是卻無法持久存在的一時泡沫而已。
在過去一年以來，Metaverse 元宇宙這個詞彙，可以說是在科技產業中，繼雲端、大數據、機器學習、區塊鏈等字眼之後，新一代的熱門關鍵字之王。很多東西都想扯上這個關鍵字，顯示自己走在時代的尖端。
然而，到底什麼是 Metaverse？這是一個大哉問，你問不同人可能會得到不同的答案。
「設計不僅僅是外觀和感覺。設計是其運作的方式。」 — Steve Jobs
身為一個獨立文案，許多人會以為我們的生活只需要面對電腦，從無到有，用精巧的文字填滿空白的螢幕，呈現心目中獨具風格的作品。
——有的時候可以如此，但其實這是我們夢寐以求的偶發日常。
更多的時候，白天的工作時間總被各種繁雜
台股、美股近期明顯回檔，市場敘事發生改變，壞消息一樁接一樁出現，下一步該怎麼走呢？本文將探討近期的宏觀經濟事件，並分享個人的操作思考。
社群科技巨頭 Meta 臉書，在上周正式發布了今年第三季的財報。在最新一季的成績單中，Meta 無論是在營收或者是獲利上，都創下了歷史新高，也超越了市場預期。在上一季 Q2 的財報分析結論中，我們說到，Meta 在前進的路線上，已經沒有烏雲。本季的成績單，是否能夠持續支撐這樣的說法呢？
在這個科技日新月異的時代，AI技術已經成為了我們生活中不可或缺的一部分。而最近，一家名為Character.AI的公司，憑藉其獨特的技術和創新思維，成功吸引了全球的目光。
【深入了解Character.AI】
Character.AI不僅是一家AI公司，它更是一家致力於情感型人工智能的領軍企業。
2022 年營運上遭受到嚴重亂流的Meta 臉書，在今年第一季終於交出了一個止跌回穩的財報，算是一部分走出了去年的低谷。而外界當然也會高度關注，這樣的狀況，是否能夠延續到今年第二季，確認Meta 已經重新開始回到健康成長的軌跡？
展期｜2022.10.8–2023.3.5
地點｜高雄市立美術館101-103展覽室
官網｜https://being-x.kmfa.gov.tw/
主辦單位｜高雄市立美術館
工作團隊｜館長：李玉玲，執行監督：林羿妏、曾芳玲、洪金禪、陳秀薇、陳茹萍、羅潔尹、郭宗祐，策展團隊：方彥翔、謝宇婷、吳家男
在過去 20 年，整個世界的大多頭經濟增長中，科技進步是最主要的驅動力，這也讓越來越多人開始關心，未來的科技大趨勢到底是什麼。所以，在 2023 年初第一篇的科技巨頭解碼，就讓我們一起來研究看看，究竟外界認為 2023 年的科技趨勢是什麼，以及 Miula 我對於這些科技趨勢預測的看法。
知名投資人兼 Meta 的法人股東 Brad Gerstner 前幾天對 Meta 發出一份公開信，希望 Meta 能夠做出正確動作，挽回投資人的信心。他的要求包括了 – 裁員 20%、資本支出減少 50 億美元，以及每年投資到元宇宙的資金不要超過 50 億美元......
就在前幾天，Meta 正式對外發布了一篇論文，公開了他們的一個新技術叫做 QuestSim – 這是一個利用神經網路深度學習技術，去計算與模擬出 VR 頭盔配戴者全身動作的一個演算法。
對於我說，Omniverse 到底是一個怎樣的產品，是個怎樣的平台，一直是個很困擾的問題。因為 Omniverse 從我最早看到的第一個版本，到現在最新的樣貌，其實已經擴充與改變了非常多。
無論是成功跨出加密貨幣領域，讓主流世界瘋狂追逐的 NFT，又或者是在美國台灣都引起熱議，並成為炒股話題之一的元宇宙，在過去幾個月，都是熱到不能再熱的科技話題。不過，在這兩個名詞大紅之際，也同時有很多人，質疑他們其實是泡泡，是被過度追捧但是卻無法持久存在的一時泡沫而已。
在過去一年以來，Metaverse 元宇宙這個詞彙，可以說是在科技產業中，繼雲端、大數據、機器學習、區塊鏈等字眼之後，新一代的熱門關鍵字之王。很多東西都想扯上這個關鍵字，顯示自己走在時代的尖端。
然而，到底什麼是 Metaverse？這是一個大哉問，你問不同人可能會得到不同的答案。