【AI推論】超越地表最強超級電腦 24倍,Google Ironwood宣告AI推論革命來臨!

更新 發佈閱讀 3 分鐘
raw-image

Google Pathways 架構擴展數十萬晶片,AI 雲端競爭進入新局

撰文/科技產業評論組


AI晶片戰場再添強兵。Google在美國拉斯維加斯舉辦的Cloud Next 25大會上,正式發表第七代 TPU(Tensor Processing Unit)Ironwood。不同於過去以訓練為導向的設計,Ironwood是 Google首款專為AI推論(Inference)打造的處理器,其性能不僅遠超過前代,更是全球最強超級電腦 El Capitan的24倍,象徵AI應用邁入推論主導的下一階段。


AI 運算焦點轉向推論,Ironwood搶占制高點

自2018年推出第一代 Cloud TPU 以來,Google 致力於優化大模型(LLM)的訓練能力。但隨著生成式AI滲透各行各業,推論(Inference),即讓模型在實際應用中快速、精準地作出回應,成為新一波競爭焦點。


Ironwood正是為此時代轉變而生。單顆晶片提供高達4,614 TFLOPS的浮點運算能力,支援日益複雜的推理任務,例如邏輯分析、數學解題,甚至初具「思考能力」的推理模型。Google副總裁 Amin Vahdat明言:「如今AI推論的重要性,已經超越訓練。」


效能、節能雙突破,為雲端大規模部署而生

除了純效能,Ironwood最令人矚目的,是其能效比與可擴展性。相較前一代Trillium,Ironwood 每瓦運算效能提升兩倍,並採用先進液冷技術,有效控制熱能,維持高效輸出。對日益面臨能源壓力的資料中心來說,這項升級無異於雪中送炭。


記憶體也大幅進化。192GB的高頻寬記憶體(HBM),搭配7.2Tbps的資料傳輸速度,幾乎為前代的6倍與4.5倍,讓模型運行更流暢,減少資料瓶頸。而晶片間的雙向傳輸頻寬也提升至 1.2Tbps,支撐起大規模分散式訓練與推論所需的即時協作。


支援超大規模模型,打造雲端推論「超級引擎」

Ironwood提供256顆與9,216顆兩種規模配置。當擴展至最大規模,每個Pod可達42.5 exaFLOPS,不僅超越所有現有超級電腦,也使 Google Cloud成為能支撐下一代LLM、混和專家模型(MoE)與推理模型的理想平台。

更重要的是,Google DeepMind開發的 Pathways架構,讓多個Ironwood Pod串聯運作,可擴充至數十萬顆TPU組合運作,突破單一晶片組限制,為企業與研究機構開啟規模化AI應用的大門。


競爭態勢升溫,雲端巨頭各擁武器

Ironwood橫空出世之際,AI晶片市場早已群雄逐鹿。NVIDIA憑藉 H100/H200 系列持續主導市場,AWS有自研Trainium / Inferentia晶片,Microsoft則投入Azure Maia / Cobalt晶片開發。Ironwood的推出,不僅是技術升級,更是 Google Cloud在雲端AI基礎建設戰場的再一次布局。

raw-image

在DeepSeek等推理型AI模型快速崛起之後,AI 生態系正快速由「生成」走向「理解」與「推理」。Ironwood 不只是新一代晶片,更是 Google 對 AI 演進方向的回應與押注。


留言
avatar-img
Tx3 Research|掌握關鍵洞察
65會員
241內容數
Tx3是一個專注於產業財報分析、投資心法與國際趨勢解析的媒體,結合產業第一線脈動、數據驅動的思考,以及全球視野下的策略觀點。 我們不是單純報導新聞,而是以犀利的眼光挑戰框架,用簡明但深刻的語言解構複雜議題,幫助讀者掌握「看懂趨勢、預判未來、做出投資好決策」的核心能力。
2025/04/30
ChatGPT 變身消費導購員,AI 正在重塑全球電商與搜尋業版圖! 當 AI 不再只是問答助手,而是開始主動替你選購耳機、推薦行李箱,甚至下訂機票,意味著一場「消費革命」正在醞釀。 OpenAI 日前宣布,旗下 ChatGPT 加入購物功能,用戶可在對話介面內完成產品搜索、比
Thumbnail
2025/04/30
ChatGPT 變身消費導購員,AI 正在重塑全球電商與搜尋業版圖! 當 AI 不再只是問答助手,而是開始主動替你選購耳機、推薦行李箱,甚至下訂機票,意味著一場「消費革命」正在醞釀。 OpenAI 日前宣布,旗下 ChatGPT 加入購物功能,用戶可在對話介面內完成產品搜索、比
Thumbnail
2025/04/28
Q1財報亮眼,但750億美元的巨額資本支出,讓Alphabet踏上一場高風險、不可回頭的AI賽局 【財報爆點速覽】 營收90.2億美元,年增12%,優於市場預期 淨利暴增46%,EPS年增49%,自由現金流190億美元 Google Cloud營收年增28%,但仍面臨供給瓶
Thumbnail
2025/04/28
Q1財報亮眼,但750億美元的巨額資本支出,讓Alphabet踏上一場高風險、不可回頭的AI賽局 【財報爆點速覽】 營收90.2億美元,年增12%,優於市場預期 淨利暴增46%,EPS年增49%,自由現金流190億美元 Google Cloud營收年增28%,但仍面臨供給瓶
Thumbnail
看更多
你可能也想看
Thumbnail
債券投資,不只是高資產族群的遊戲 在傳統的投資觀念中,海外債券(Overseas Bonds)常被貼上「高資產族群專屬」的標籤。過去動輒 1 萬甚至 10 萬美元的最低申購門檻,讓許多想尋求穩定配息的小資族望而卻步。 然而,在股市波動劇烈的環境下,尋求穩定的美元現金流與被動收入成為許多投資人
Thumbnail
債券投資,不只是高資產族群的遊戲 在傳統的投資觀念中,海外債券(Overseas Bonds)常被貼上「高資產族群專屬」的標籤。過去動輒 1 萬甚至 10 萬美元的最低申購門檻,讓許多想尋求穩定配息的小資族望而卻步。 然而,在股市波動劇烈的環境下,尋求穩定的美元現金流與被動收入成為許多投資人
Thumbnail
透過川普的近期債券交易揭露,探討債券作為資產配置中「穩定磐石」的重要性。文章分析降息對債券的潛在影響,以及股神巴菲特的操作策略。並介紹玉山證券「小額債」平臺,如何讓小資族也能低門檻參與海外債券市場,實現「低門檻、低波動、固定收益」的務實投資方式。
Thumbnail
透過川普的近期債券交易揭露,探討債券作為資產配置中「穩定磐石」的重要性。文章分析降息對債券的潛在影響,以及股神巴菲特的操作策略。並介紹玉山證券「小額債」平臺,如何讓小資族也能低門檻參與海外債券市場,實現「低門檻、低波動、固定收益」的務實投資方式。
Thumbnail
解析「債券」如何成為資產配置中的穩定錨,提供低風險高回報的投資選項。 藉由玉山證券的低門檻債券服務,投資者可輕鬆入手,平衡風險並穩定財務。
Thumbnail
解析「債券」如何成為資產配置中的穩定錨,提供低風險高回報的投資選項。 藉由玉山證券的低門檻債券服務,投資者可輕鬆入手,平衡風險並穩定財務。
Thumbnail
相較於波動較大的股票,債券能提供固定現金流,而玉山證券推出的小額債,更以1000 美元的低門檻,讓學生與新手也能參與全球優質企業債投資。玉山E-Trader平台即時報價、條件式篩選與清楚的交易流程等特色,大幅降低投資難度,對於希望分散風險、建立穩定現金流的人來說,玉山小額債是一個值得嘗試的理財起點。
Thumbnail
相較於波動較大的股票,債券能提供固定現金流,而玉山證券推出的小額債,更以1000 美元的低門檻,讓學生與新手也能參與全球優質企業債投資。玉山E-Trader平台即時報價、條件式篩選與清楚的交易流程等特色,大幅降低投資難度,對於希望分散風險、建立穩定現金流的人來說,玉山小額債是一個值得嘗試的理財起點。
Thumbnail
時間快轉至2030年,或許城市還無懸浮飛車,但AI先會像電力存在每一個角落。百工百業運用智慧算力,就像打開水龍頭一樣容易。這描述並非Cyberpunk科幻場景,正逐漸在世界各地悄然成形。
Thumbnail
時間快轉至2030年,或許城市還無懸浮飛車,但AI先會像電力存在每一個角落。百工百業運用智慧算力,就像打開水龍頭一樣容易。這描述並非Cyberpunk科幻場景,正逐漸在世界各地悄然成形。
Thumbnail
科技巨擘聯手推進生成式AI發展 開創人工智慧新時代 在生成式人工智慧(Generative AI)的浪潮中,雲端運算龍頭AWS和晶片巨擘NVIDIA攜手合作,推出一系列革命性的基礎設施、軟體和服務。
Thumbnail
科技巨擘聯手推進生成式AI發展 開創人工智慧新時代 在生成式人工智慧(Generative AI)的浪潮中,雲端運算龍頭AWS和晶片巨擘NVIDIA攜手合作,推出一系列革命性的基礎設施、軟體和服務。
Thumbnail
在科技發展的浪潮中,生成式AI無疑是引領未來的關鍵力量。透過深度學習技術,AI系統能夠從大量資料中發掘規律,並創造出全新的內容,無論是文字、圖像、音頻還是視頻,都可以在AI的加持下重新定義。
Thumbnail
在科技發展的浪潮中,生成式AI無疑是引領未來的關鍵力量。透過深度學習技術,AI系統能夠從大量資料中發掘規律,並創造出全新的內容,無論是文字、圖像、音頻還是視頻,都可以在AI的加持下重新定義。
Thumbnail
根據高盛最近的研究報告,未來的個人電腦和移動設備將搭載更多由AI增強後的應用程式,如AI增強、安全性提升和運算能力強化。 消費性電子股票組合<GSXUPCAI>也顯示出潛力,並列出了成分股以及其權重。
Thumbnail
根據高盛最近的研究報告,未來的個人電腦和移動設備將搭載更多由AI增強後的應用程式,如AI增強、安全性提升和運算能力強化。 消費性電子股票組合<GSXUPCAI>也顯示出潛力,並列出了成分股以及其權重。
Thumbnail
NVIDIA 黃仁勳 - AI人工智慧時代如何帶動全球新產業革命(個人紀錄用) 🇺🇸Omniverse 就是未來集大成,而加速運算、人工智慧就是兩個最重要的技術核心 🇺🇸CPU效能的擴充速度正在大幅降低,提出「運算通膨」概念
Thumbnail
NVIDIA 黃仁勳 - AI人工智慧時代如何帶動全球新產業革命(個人紀錄用) 🇺🇸Omniverse 就是未來集大成,而加速運算、人工智慧就是兩個最重要的技術核心 🇺🇸CPU效能的擴充速度正在大幅降低,提出「運算通膨」概念
Thumbnail
AI PC 硬體 + AI OS + AI PC 摘要
Thumbnail
AI PC 硬體 + AI OS + AI PC 摘要
Thumbnail
筆記-股癌-24.05.22 *認養狗可以聯絡Liza的IG。 *微軟AI PC: - 售價1000歐元起的AI PC,6/18推出,晶片NPU算力在40 TOPS以上, - 裝置有連動GPT-4o,這部分的功能還是要連上網;Copilot功能下放到邊緣端。 - recall功能,可以把螢
Thumbnail
筆記-股癌-24.05.22 *認養狗可以聯絡Liza的IG。 *微軟AI PC: - 售價1000歐元起的AI PC,6/18推出,晶片NPU算力在40 TOPS以上, - 裝置有連動GPT-4o,這部分的功能還是要連上網;Copilot功能下放到邊緣端。 - recall功能,可以把螢
追蹤感興趣的內容從 Google News 追蹤更多 vocus 的最新精選內容追蹤 Google News