AI革命的隱藏成本,能耗與碳排有多少?

更新於 發佈於 閱讀時間約 8 分鐘

前言

這兩年最熱門的議題是AI應用技術與相關產業,NVIDIA的股價飆漲已經廣傳到原本不知道什麼是顯卡的人都要跟買的程度。但AI技術背後的高耗能運算以及數據中心運作所帶來的能源負擔,也越來越多人注意到是個嚴重問題。

除了AI技術之外,隨著烏俄戰爭延燒,美國與歐洲在能源政策方面都持續有轉向更多核能的趨勢,無論是核電廠延役、投資新一代核能技術都是持續在發生的事。目前我國的政策宣示依然是燃氣、燃煤以及再生能源三者50/30/20的比例,只是在再生能源裝置容量未達目標的情況下,要怎麼調整的問題很顯著(背後接著的就是漲電價議題)。

這些環環相扣的議題可能牽一髮動全身,先從生成式AI技術的耗能報導開始吧。

摘要翻譯

生成式人工智慧模型,例如 OpenAI 的 ChatGPT、Anthropic 的 Claude 和 Alphabet 的 Gemini,極度耗電,且逐漸增加全球電力和碳排比例。這促使研究人員開始探索如何減少這項技術對環境的影響。

「我們當然希望能享用這些模型帶來的優勢,無論作為研究者還是用戶都受益良多。但同時,我們必須考量為此消耗的電力成本,」戴爾豪斯大學資訊工程系助理教授 Tushar Sharma 表示。他目前正在研究如何讓生成式 AI 模型更具能源效率。

根據高盛於五月發表的研究,一次 ChatGPT 查詢的耗電量是 Google 搜尋的十倍。AI 初創公司 Hugging Face 和卡內基美隆大學的研究人員在 2023 年 12 月的論文指出,使用高效率 AI 模型生成圖片所需的能源,等同於為一部智慧手機完全充電的電量,而生成文字所需電量約相當於手機充電到 16%。

隨著需求的增加,AI 使用的資料中心電力需求正迅速上升。高盛預測,這些資料中心的用電量在本世紀末將成長 160%,從目前佔全球用電需求的 1% 到 2%,將提升至 3% 至 4%。這些電力消耗轉化為大量溫室氣體排放。儘管少有 AI 公司公佈排放數據,但 Google 在 2024 年 7 月發表的永續報告中指出,2023 年的排放量達到 1,430 萬公噸二氧化碳當量,較前一年增長 13%,相比 2019 年增長了 48%,而資料中心的能源消耗是主要原因之一。「隨著我們將 AI 進一步融入產品中,減少排放將愈加困難,」報告指出。

Microsoft 公司在 2024 年永續報告中提到,由於需要建設更多針對 AI 工作負荷而優化的資料中心,自 2020 年以來其排放量增加了 29%。該公司目前已在多數企業產品中嵌入生成式 AI,並在 Bing 中推出 AI 生成摘要功能。

在蒙特婁工作的 Hugging Face AI 研究員兼氣候主管 Sasha Luccioni 共同撰寫了該公司 12 月的報告,她表示,AI 技術所依賴的高效圖形處理器供應鏈,是 AI 碳足跡中一個尚未深入探討的領域。她指出,生成式模型的電力需求「呈指數級上升」,遠超過早期 AI 模型,因為過去的「傳統」模型本質上是提取式的。傳統的提取式模型搜尋引擎會將查詢轉換成數字序列,然後找出與之相對應的文件或網頁;而生成式模型則需生成一連串可能的詞句來回應查詢,或在建構圖像時逐像素生成,反覆約 100 次,直至生成最終圖像。

Sharma 的研究著重於 AI 模型訓練的優化。他指出,目前大型語言模型( LLMs )需透過大量數據進行訓練,他則試圖識別哪些數據不那麼必要或品質較低,並將其從模型中剔除。「我們不見得需要所有數據,」他解釋道,「重點是要找到保留與淘汰的平衡……並且不影響模型的整體價值。」

他的另一項研究則專注於找出 AI 模型中耗電最多的程式碼「熱點」,並讓這些區塊以更高效率運行。「一個程式可能有 5,000 行程式碼,但並不是每行程式碼都同等耗能,」Sharma 指出。「我們可以對最耗能的 200 行程式碼投入更多的人力優化。」他還提到,希望能找到「具有實力的產業合作夥伴」來支持他的研究,目前正與幾家 AI 公司接洽中。

麻省理工林肯實驗室和麻州東北大學的研究人員也正在探討如何限制 GPU 的單次功率輸出。在測試中,他們在一個大型語言模型的訓練過程中加入功率限制,雖然延長了訓練三小時,但所節省的能源相當於美國普通家庭一週的用電量。

一些大型雲端服務商已經開始投資低碳能源來運行資料中心。 Google 在 10 月中旬宣布投入資金支持小型模組化核反應爐,而 Microsoft 則在 9 月底簽約重新啟用位於賓夕法尼亞州的三厘島核電廠。

Luccioni 表示,減少 AI 模型碳排放的一種方式是採用更小型的模型,因為它們比大型語言模型( LLMs )的能耗更低。根據她的研究,一個小型模型標記 1,000 篇電影評論為正面或負面,僅需 0.3 克二氧化碳,而使用 LLM 執行同樣任務則耗費 10 克二氧化碳。她指出在企業環境中,許多公司希望利用模型進行特定任務,例如情感分析或提供內部文件搜尋及摘要的工具。這些應用其實無需 LLM ,小型模型已能勝任。「在選擇工具時,應該仔細考慮所需的功能,」她說。「如果你需要做文本摘要,生成模型是可行的,但其實也有抽取式模型,可以直接從文本中取出關鍵詞並組成更短的版本。這種技術在 ChatGPT 出現之前就存在了,有時反而更具效率,也更適合特定需求。」

Luccioni 建議人們在使用生成式 AI 系統時保持克制,並反思查詢是否真的需要 AI 支援,例如用計算機解答數學問題,而不是使用 ChatGPT,或是在便條上寫「買牛奶」,而非依賴 Siri 。「 AI 不是無形的,它的存在非常具體,需要計算資源、冷卻資料中心的水資源和供電能源,這些成本都相當可觀,」她說。「只要停下來想一想,‘我即將使用 AI 的這個行為會帶來影響。我應該考慮這是否真有必要。’」

個人觀點

AI的方便性非常顯著,自然而然會越來越普及,但一般使用者會在意每次問答之間需要消耗多少能源嗎?由下到上的節約方式在運作上有太多窒礙難行之處了,尤其是相關AI產品的發布與目的都是希望使用者黏著度越高越好。

另一層次的上到下制度應該是比較可行的手段。電價必須完整反應出所有成本和溫室氣體排放量,所有資料中心都因為吃電怪獸以及高碳排熱點本質被重視了,就會非常合理地尋求節電以及降低碳排的方案。

環境議題的外部成本內部化,雖然是老生常談的舊概念,但也才是很多問題的治本之道。各種碳定價的根本原理在此,也是為何會比強制規範效果更好的原因。

相關文章

歡迎留言分享,也期待你追蹤並加入沙龍,一起關心氣候變遷與碳移除。

與這個主題相關的文章連結整理如下:

碳債是什麼?該怎麼償還?公平嗎?

旅宿餐飲的淨零承諾:理想與現實的衝突

氣候變遷與心理思維:David Finnigan的演講啟示

微軟與UNDO攜手推動加強岩石風化技術以實現負碳目標

拆包ESG,是分手擂台的時候了嗎?



留言
avatar-img
留言分享你的想法!
細雨徐行-avatar-img
發文者
2025/02/23
AI 技術對於氣候變遷和永續發展能有哪些方面的助益?提及了這篇文章,趕快過去看看吧!
細雨徐行-avatar-img
發文者
2025/01/31
特斯拉的碳權生意提及了這篇文章,趕快過去看看吧!
細雨徐行-avatar-img
發文者
2025/01/27
AI浪潮下的碳排責任:Microsoft的350萬碳權承諾與永續挑戰提及了這篇文章,趕快過去看看吧!
細雨徐行-avatar-img
發文者
2025/01/12
五大永續碳資產相關ETF介紹提及了這篇文章,趕快過去看看吧!
細雨徐行-avatar-img
發文者
2024/12/15
川普回歸,碳移除產業的第一個挑戰提及了這篇文章,趕快過去看看吧!
avatar-img
細雨徐行的沙龍
25會員
245內容數
分享氣候變遷與環境政策主題。 增廣見聞之餘,讓生活產生更多洞見。 如果有想了解的新知、產業資訊、相關主題內容等, 都非常歡迎在文章中留言讓我知道。
細雨徐行的沙龍的其他內容
2025/04/29
法國推出符合巴黎協定且具有高完整性碳權使用憲章,強調企業應優先削減自身排放,將碳權作為輔助性手段,並明確揭露資訊。此憲章符合國際最佳實務準則,並與《巴黎協定》第6.4條及自願碳市場誠信委員會(ICVCM)的核心碳原則相符,旨在重建碳市場的公信力,避免綠色漂綠,促進真實減碳。
Thumbnail
2025/04/29
法國推出符合巴黎協定且具有高完整性碳權使用憲章,強調企業應優先削減自身排放,將碳權作為輔助性手段,並明確揭露資訊。此憲章符合國際最佳實務準則,並與《巴黎協定》第6.4條及自願碳市場誠信委員會(ICVCM)的核心碳原則相符,旨在重建碳市場的公信力,避免綠色漂綠,促進真實減碳。
Thumbnail
2025/04/28
本文深入淺出地解釋巴黎協定第六條及其相關專有名詞,例如NDC、ITMO、VER和CORSIA。詳細闡述了ITMO和VER的差異,以及巴黎協定第六條的兩個主要組成部分(第6.2條和第6.4條)如何促進國際合作,幫助各國達成減碳目標,並以曼谷電動巴士計畫為例,說明Article 6.2的實際應用。
Thumbnail
2025/04/28
本文深入淺出地解釋巴黎協定第六條及其相關專有名詞,例如NDC、ITMO、VER和CORSIA。詳細闡述了ITMO和VER的差異,以及巴黎協定第六條的兩個主要組成部分(第6.2條和第6.4條)如何促進國際合作,幫助各國達成減碳目標,並以曼谷電動巴士計畫為例,說明Article 6.2的實際應用。
Thumbnail
2025/04/27
2025年第一季碳移除市場(CDR)快報顯示,交易量創下低點,但大型合約和新買家進場帶來曙光。微軟的巨額採購案凸顯BECCS技術潛力,但市場仍需擴大買家基礎、建立更清晰的標準及強化基礎設施。 文章分析市場趨勢、買家行為、技術發展及政策影響,並指出標準制定、政策支持及資本可及性為市場未來發展關鍵。
Thumbnail
2025/04/27
2025年第一季碳移除市場(CDR)快報顯示,交易量創下低點,但大型合約和新買家進場帶來曙光。微軟的巨額採購案凸顯BECCS技術潛力,但市場仍需擴大買家基礎、建立更清晰的標準及強化基礎設施。 文章分析市場趨勢、買家行為、技術發展及政策影響,並指出標準制定、政策支持及資本可及性為市場未來發展關鍵。
Thumbnail
看更多
你可能也想看
Thumbnail
「欸!這是在哪裡買的?求連結 🥺」 誰叫你太有品味,一發就讓大家跟著剁手手? 讓你回購再回購的生活好物,是時候該介紹出場了吧! 「開箱你的美好生活」現正召喚各路好物的開箱使者 🤩
Thumbnail
「欸!這是在哪裡買的?求連結 🥺」 誰叫你太有品味,一發就讓大家跟著剁手手? 讓你回購再回購的生活好物,是時候該介紹出場了吧! 「開箱你的美好生活」現正召喚各路好物的開箱使者 🤩
Thumbnail
介紹朋友新開的蝦皮選物店『10樓2選物店』,並分享方格子與蝦皮合作的分潤計畫,註冊流程簡單,0成本、無綁約,推薦給想增加收入的讀者。
Thumbnail
介紹朋友新開的蝦皮選物店『10樓2選物店』,並分享方格子與蝦皮合作的分潤計畫,註冊流程簡單,0成本、無綁約,推薦給想增加收入的讀者。
Thumbnail
當你邊吃粽子邊看龍舟競賽直播的時候,可能會順道悼念一下2300多年前投江的屈原。但你知道端午節及其活動原先都與屈原毫無關係嗎?這是怎麼回事呢? 本文深入探討端午節設立初衷、粽子、龍舟競渡與屈原自沉四者。看完這篇文章,你就會對端午、粽子、龍舟和屈原的四角關係有新的認識喔。那就讓我們一起解開謎團吧!
Thumbnail
當你邊吃粽子邊看龍舟競賽直播的時候,可能會順道悼念一下2300多年前投江的屈原。但你知道端午節及其活動原先都與屈原毫無關係嗎?這是怎麼回事呢? 本文深入探討端午節設立初衷、粽子、龍舟競渡與屈原自沉四者。看完這篇文章,你就會對端午、粽子、龍舟和屈原的四角關係有新的認識喔。那就讓我們一起解開謎團吧!
Thumbnail
隨著ChatGPT、Copilot、Gemini等AI工具一個個走進生活,我們的工作變得更快、更有效率;然而,這些AI背後的「大腦」—資料中心,正悄悄吞噬越來越多的地球資源。 根據國際能源署(IEA)最新報告,全球資料中心的用電量將在2030年以前倍增,從目前約佔全球用電的1.5%,飆升到3%
Thumbnail
隨著ChatGPT、Copilot、Gemini等AI工具一個個走進生活,我們的工作變得更快、更有效率;然而,這些AI背後的「大腦」—資料中心,正悄悄吞噬越來越多的地球資源。 根據國際能源署(IEA)最新報告,全球資料中心的用電量將在2030年以前倍增,從目前約佔全球用電的1.5%,飆升到3%
Thumbnail
未來的AI處理器發展趨勢將會持續專注於提升效能並降低能源消耗。 以下是一些可能的發展方向: 新一代NPU:例如,英特爾已經發表了新一代AI PC處理器Lunar Lake,該處理器的NPU算力是前一代的3倍多,且耗能較前一代低40%。 多模態生成式AI的興起:這種AI結合了文本、圖像、視頻等多
Thumbnail
未來的AI處理器發展趨勢將會持續專注於提升效能並降低能源消耗。 以下是一些可能的發展方向: 新一代NPU:例如,英特爾已經發表了新一代AI PC處理器Lunar Lake,該處理器的NPU算力是前一代的3倍多,且耗能較前一代低40%。 多模態生成式AI的興起:這種AI結合了文本、圖像、視頻等多
Thumbnail
劉峻誠提醒,儘管台灣現在處於半導體熱潮中,但晶片製程在摩爾定律下於2奈米後將走入極限, 台灣半導體急需在2024年做出轉型,而目前NPU就是AMD、英特爾等幾個科技巨頭公司的顯學, 「因為如果ChatGPT用NPU來運作,耗電程度將會GPU的千分之一以下。」
Thumbnail
劉峻誠提醒,儘管台灣現在處於半導體熱潮中,但晶片製程在摩爾定律下於2奈米後將走入極限, 台灣半導體急需在2024年做出轉型,而目前NPU就是AMD、英特爾等幾個科技巨頭公司的顯學, 「因為如果ChatGPT用NPU來運作,耗電程度將會GPU的千分之一以下。」
Thumbnail
AI 訓練與推理要用電、EV要用電、半導體製造業回流要用電。同時也吃到再生能源轉型與天然氣等減排發電題材的公司,會有很長的成長跑道。Data Center 資料中心的建置與營運,使得周邊的供應鏈需求有顯著的成長。
Thumbnail
AI 訓練與推理要用電、EV要用電、半導體製造業回流要用電。同時也吃到再生能源轉型與天然氣等減排發電題材的公司,會有很長的成長跑道。Data Center 資料中心的建置與營運,使得周邊的供應鏈需求有顯著的成長。
Thumbnail
GPU,既能支援大規模人工智慧計算,現在也能夠支援一些量子軟體,各家公司都在密切關注這個發展趨勢。 GPU已經改變了人工智慧的格局,現在也準備投身量子計算領域,儘管量子技術尚未成熟,但許多公司已經找到可以在與人工智慧相同的晶片上,運行複雜的量子演算法。近年來,由於GPU和其他先進晶片提供的計算
Thumbnail
GPU,既能支援大規模人工智慧計算,現在也能夠支援一些量子軟體,各家公司都在密切關注這個發展趨勢。 GPU已經改變了人工智慧的格局,現在也準備投身量子計算領域,儘管量子技術尚未成熟,但許多公司已經找到可以在與人工智慧相同的晶片上,運行複雜的量子演算法。近年來,由於GPU和其他先進晶片提供的計算
Thumbnail
比扯鈴還扯的 Nvidia,因為給出了爆炸性的財測 Q2營收,預計年增64%至創紀錄的110億,遠超預期的71億,盤後大暴漲超過24%。之前覺得Nvidia可能會遭遇現實營收轉換的Reality check,但現實其實出乎意料的強大比做夢還強。
Thumbnail
比扯鈴還扯的 Nvidia,因為給出了爆炸性的財測 Q2營收,預計年增64%至創紀錄的110億,遠超預期的71億,盤後大暴漲超過24%。之前覺得Nvidia可能會遭遇現實營收轉換的Reality check,但現實其實出乎意料的強大比做夢還強。
Thumbnail
AI技術的發展為人們的生產和生活帶來了巨大的變革,從智能家居、智能醫療、自動駕駛等,現在AI已經漸漸地出現在你的生活中,如果未來AI會更盛行的,我們可以從中找到甚麼投資機會 那以下就要稍微介紹一下AI,但因為菜鳥也是自己去爬文,去找資料,不是相關的專業人士,所以僅供參考就好了,那AI也有蠻多法規跟倫
Thumbnail
AI技術的發展為人們的生產和生活帶來了巨大的變革,從智能家居、智能醫療、自動駕駛等,現在AI已經漸漸地出現在你的生活中,如果未來AI會更盛行的,我們可以從中找到甚麼投資機會 那以下就要稍微介紹一下AI,但因為菜鳥也是自己去爬文,去找資料,不是相關的專業人士,所以僅供參考就好了,那AI也有蠻多法規跟倫
Thumbnail
只參加有興趣的半導體相關演講,第一手摘要: 地點:台北華山文創園區 Legacy 10:00-10:20 生成式 AI - 驅動創新的全新動能 NVIDIA資深協理 康勝閔 10:40-11:00 AI 開啟 IC半導體黃金時代 聯發科技股份有限公司前瞻技術平台資深處長 梁伯嵩博士
Thumbnail
只參加有興趣的半導體相關演講,第一手摘要: 地點:台北華山文創園區 Legacy 10:00-10:20 生成式 AI - 驅動創新的全新動能 NVIDIA資深協理 康勝閔 10:40-11:00 AI 開啟 IC半導體黃金時代 聯發科技股份有限公司前瞻技術平台資深處長 梁伯嵩博士
追蹤感興趣的內容從 Google News 追蹤更多 vocus 的最新精選內容追蹤 Google News