IBM共封裝光學技術(CPO):加速AI訓練與提升能源效率的新突破

更新於 2024/12/23閱讀時間約 4 分鐘

IBM最近宣布了一項革命性的光學技術突破,旨在顯著提高人工智慧(AI)模型訓練的效率並降低能源消耗。這項技術被稱為共封裝光學技術(Co-Packaged Optics,CPO),其核心在於利用光速進行資料傳輸,取代傳統資料中心內依賴銅電纜的連接方式,開創了運算領域的全新可能性。

技術背景與突破

傳統的資料中心內部通訊大多依賴銅電纜,而這些電纜在處理大量數據時,往往存在帶寬不足和延遲過高的問題。IBM的CPO技術將光學元件與電子元件共同封裝於一個晶片內,並使用光速進行資料傳輸。這不僅能顯著提升資料傳輸的速度與帶寬,還能減少GPU等加速器的閒置時間,提升整體計算效能。

研究結果顯示, CPO技術能將大型語言模型(LLM)的訓練時間從原來的三個月縮短至僅需三週,這使得AI訓練的效率提高了近五倍。更為重要的是,這項技術每訓練一個AI模型所節省的能源,等同於5000個美國家庭一年的用電量。預計資料中心的能源消耗將因此減少超過80%。

此外,IBM的CPO技術還在密度與性能方面帶來了顯著突破。其新型光學模組能在每公厘空間內容納多達51條光纖,這一數字是現有技術的六倍,從而大幅提升了資料傳輸效率,並降低了光信號干擾。

實際應用與未來展望

隨著生成式AI的需求不斷增加,資料中心對於處理能力的要求也在迅速攀升。 IBM的高級副總裁Dario Gil表示,CPO技術將使資料中心能夠更高效地運行,為未來的AI工作負載提供強大支持。這項技術的商業化應用前景看好,且許多半導體製造商對其表現出濃厚的興趣,未來有望成為運算產業的一個關鍵突破。

具體而言,CPO技術不僅能幫助現有資料中心架構升級,還可能成為未來計算需求的支柱。隨著技術的不斷成熟,IBM有望在AI、大數據處理和雲計算等領域,開創出更多的商業機會。

技術與市場前景的挑戰

儘管IBM的CPO技術具有巨大的潛力,但在實施過程中仍需面對幾個挑戰。首先,CPO技術需要在生產過程中確保光學元件與電子元件的高效集成,並且必須在極端環境條件下保持穩定性。此外,現有資料中心的基礎設施尚多依賴銅電纜,因此需要進行大規模的技術升級,這可能會涉及到硬體、軟體以及網路架構的全面改造。

同時,市場對新技術的接受度也會影響CPO技術的普及速度。雖然其在效能與能源效率上有顯著優勢,但企業在選擇是否投資新技術時,仍會考量成本、風險及長期效益等多方面因素。

環境效益與可持續發展

在環境保護方面,CPO技術也展現了顯著的優勢。資料中心是能源消耗的重要來源,CPO技術的應用不僅能提高運算效率,還能降低整體能耗,進而減少碳排放。根據IBM的估算,每訓練一個大型AI模型所節省的能源,足以供5000個家庭使用一年,這為推動綠色資料中心的發展提供了有力支持。

此外,隨著能源效率的提升,資料中心將能更好地利用可再生能源,進一步減少對化石燃料的依賴,實現可持續發展目標。

總結

IBM的共封裝光學技術(CPO)無疑是人工智慧領域的一大突破,能夠在加速AI訓練、降低能耗和提升資料傳輸效率方面發揮重要作用。隨著生成式AI和大數據需求的爆炸性增長,這項技術不僅為未來的計算架構提供了嶄新的解決方案,也為全球資料中心帶來了可持續發展的機會。

雖然面臨技術實施和市場接受度等挑戰,但隨著更多企業和合作夥伴的加入,CPO技術的商業化進程將逐步加快,未來幾年內,它有望成為資料中心運作的標準技術,推動整個產業進入一個全新的計算時代。

avatar-img
8會員
501內容數
世界新鮮事
留言0
查看全部
avatar-img
發表第一個留言支持創作者!
世界新鮮事 的其他內容
OpenAI 推出全新 o3 系列推理模型,突破人工智慧推理能力,接近 AGI 水平。o3 展現卓越推理能力,精簡版 o3-mini 提供高效解決方案,將應用於多領域,推動 AI 發展邁向新高度。
該文章介紹了京都大學與鹿島建設合作研究的「Neo Lunar Glass」計劃,旨在設計一種模擬地球重力的月球居住設施,以解決低重力環境對人體的健康挑戰,並探索月球長期居住的可行性。
文章介紹了FTX交易所破產重組計劃的啟動,並詳細說明了賠償計劃的具體內容、資金分發過程及其影響。計劃將首先向便利類別債權人賠償,並預計將返還資產的118%。此外,還闡述了FTX的重建計劃與未來發展。
隨著中國經濟困境加劇,政府停止對民間駭客組織的資金支持,許多駭客轉向網路犯罪活動,如勒索、販賣個資等,對全球資安構成重大威脅。專家指出,駭客利用高級持續性威脅(APT)和AI技術,加劇了攻擊手法的複雜性,企業與國際社會需加強應對措施。
OpenAI推出無需網絡的電話服務,讓美國用戶能直接撥打電話與ChatGPT語音對話,拓展了AI助手的應用範圍。該服務適用於網絡信號差或無法使用數位設備的情境,但目前仍有些技術和市場挑戰。
本文分析宏都拉斯與中國建立外交關係後,貿易逆差擴大及經濟困境。宏國出口嚴重不足,援助承諾未兌現,導致貿易失衡和財政壓力。文章警示外交政策需考慮長期經濟後果。
OpenAI 推出全新 o3 系列推理模型,突破人工智慧推理能力,接近 AGI 水平。o3 展現卓越推理能力,精簡版 o3-mini 提供高效解決方案,將應用於多領域,推動 AI 發展邁向新高度。
該文章介紹了京都大學與鹿島建設合作研究的「Neo Lunar Glass」計劃,旨在設計一種模擬地球重力的月球居住設施,以解決低重力環境對人體的健康挑戰,並探索月球長期居住的可行性。
文章介紹了FTX交易所破產重組計劃的啟動,並詳細說明了賠償計劃的具體內容、資金分發過程及其影響。計劃將首先向便利類別債權人賠償,並預計將返還資產的118%。此外,還闡述了FTX的重建計劃與未來發展。
隨著中國經濟困境加劇,政府停止對民間駭客組織的資金支持,許多駭客轉向網路犯罪活動,如勒索、販賣個資等,對全球資安構成重大威脅。專家指出,駭客利用高級持續性威脅(APT)和AI技術,加劇了攻擊手法的複雜性,企業與國際社會需加強應對措施。
OpenAI推出無需網絡的電話服務,讓美國用戶能直接撥打電話與ChatGPT語音對話,拓展了AI助手的應用範圍。該服務適用於網絡信號差或無法使用數位設備的情境,但目前仍有些技術和市場挑戰。
本文分析宏都拉斯與中國建立外交關係後,貿易逆差擴大及經濟困境。宏國出口嚴重不足,援助承諾未兌現,導致貿易失衡和財政壓力。文章警示外交政策需考慮長期經濟後果。
你可能也想看
Google News 追蹤
Thumbnail
*合作聲明與警語: 本文係由國泰世華銀行邀稿。 證券服務係由國泰世華銀行辦理共同行銷證券經紀開戶業務,定期定額(股)服務由國泰綜合證券提供。   剛出社會的時候,很常在各種 Podcast 或 YouTube 甚至是在朋友間聊天,都會聽到各種市場動態、理財話題,像是:聯準會降息或是近期哪些科
Thumbnail
徵的就是你 🫵 超ㄅㄧㄤˋ 獎品搭配超瞎趴的四大主題,等你踹共啦!還有機會獲得經典的「偉士牌樂高」喔!馬上來參加本次的活動吧!
Thumbnail
在科技發展的浪潮中,生成式AI無疑是引領未來的關鍵力量。透過深度學習技術,AI系統能夠從大量資料中發掘規律,並創造出全新的內容,無論是文字、圖像、音頻還是視頻,都可以在AI的加持下重新定義。
Thumbnail
NVIDIA 黃仁勳 - AI人工智慧時代如何帶動全球新產業革命(個人紀錄用) 🇺🇸Omniverse 就是未來集大成,而加速運算、人工智慧就是兩個最重要的技術核心 🇺🇸CPU效能的擴充速度正在大幅降低,提出「運算通膨」概念
Thumbnail
解釋完 CPO 架構與運作模式及 tsmc 剛發布的 COUPE 技術與 CPO 規劃之後,接下來談何謂光收發模組?而光收發模組的未來技術與產業趨勢又如何?
Thumbnail
AI應用遍地開花,討論AI晶片的同時,也來認識一下台積電的其中一項先進封裝技術CoWoS,本篇試圖簡單說明。
Thumbnail
AI 訓練與推理要用電、EV要用電、半導體製造業回流要用電。同時也吃到再生能源轉型與天然氣等減排發電題材的公司,會有很長的成長跑道。Data Center 資料中心的建置與營運,使得周邊的供應鏈需求有顯著的成長。
Thumbnail
電電公會:拚AI 要解決供電問題 Google論文搜尋引擎|論文深造的影響力 2024 GenAI不斷的刺激各種層面的應用,有發現生活中有什麼實質現況正……腦力激盪……
Thumbnail
2023年初,OpenAI 帶來生成式 AI 的實際生活應用,讓 Nvidia GPU, AI server 及 Broadcom 網路交換器供不應求,為了打造既便利又有效率的生活,全球都在追逐這一場新的契機。但是....
Thumbnail
今年 SEMICON 有兩大主題最受到關注,分別是異質整合的先進封裝技術,以及矽光子的商業應用 CPO。CPO 透過將傳統積體電路和積體光路整合在同一個載板上,得以降低訊號損耗和延遲,並降低整體功耗,為 AI 所需高傳輸速度提供解方。Broadcom 作為 CPO 技術領頭羊,其受惠程度如何?
Thumbnail
*合作聲明與警語: 本文係由國泰世華銀行邀稿。 證券服務係由國泰世華銀行辦理共同行銷證券經紀開戶業務,定期定額(股)服務由國泰綜合證券提供。   剛出社會的時候,很常在各種 Podcast 或 YouTube 甚至是在朋友間聊天,都會聽到各種市場動態、理財話題,像是:聯準會降息或是近期哪些科
Thumbnail
徵的就是你 🫵 超ㄅㄧㄤˋ 獎品搭配超瞎趴的四大主題,等你踹共啦!還有機會獲得經典的「偉士牌樂高」喔!馬上來參加本次的活動吧!
Thumbnail
在科技發展的浪潮中,生成式AI無疑是引領未來的關鍵力量。透過深度學習技術,AI系統能夠從大量資料中發掘規律,並創造出全新的內容,無論是文字、圖像、音頻還是視頻,都可以在AI的加持下重新定義。
Thumbnail
NVIDIA 黃仁勳 - AI人工智慧時代如何帶動全球新產業革命(個人紀錄用) 🇺🇸Omniverse 就是未來集大成,而加速運算、人工智慧就是兩個最重要的技術核心 🇺🇸CPU效能的擴充速度正在大幅降低,提出「運算通膨」概念
Thumbnail
解釋完 CPO 架構與運作模式及 tsmc 剛發布的 COUPE 技術與 CPO 規劃之後,接下來談何謂光收發模組?而光收發模組的未來技術與產業趨勢又如何?
Thumbnail
AI應用遍地開花,討論AI晶片的同時,也來認識一下台積電的其中一項先進封裝技術CoWoS,本篇試圖簡單說明。
Thumbnail
AI 訓練與推理要用電、EV要用電、半導體製造業回流要用電。同時也吃到再生能源轉型與天然氣等減排發電題材的公司,會有很長的成長跑道。Data Center 資料中心的建置與營運,使得周邊的供應鏈需求有顯著的成長。
Thumbnail
電電公會:拚AI 要解決供電問題 Google論文搜尋引擎|論文深造的影響力 2024 GenAI不斷的刺激各種層面的應用,有發現生活中有什麼實質現況正……腦力激盪……
Thumbnail
2023年初,OpenAI 帶來生成式 AI 的實際生活應用,讓 Nvidia GPU, AI server 及 Broadcom 網路交換器供不應求,為了打造既便利又有效率的生活,全球都在追逐這一場新的契機。但是....
Thumbnail
今年 SEMICON 有兩大主題最受到關注,分別是異質整合的先進封裝技術,以及矽光子的商業應用 CPO。CPO 透過將傳統積體電路和積體光路整合在同一個載板上,得以降低訊號損耗和延遲,並降低整體功耗,為 AI 所需高傳輸速度提供解方。Broadcom 作為 CPO 技術領頭羊,其受惠程度如何?