AI革命的隱藏成本,能耗與碳排有多少?

閱讀時間約 8 分鐘

前言

這兩年最熱門的議題是AI應用技術與相關產業,NVIDIA的股價飆漲已經廣傳到原本不知道什麼是顯卡的人都要跟買的程度。但AI技術背後的高耗能運算以及數據中心運作所帶來的能源負擔,也越來越多人注意到是個嚴重問題。

除了AI技術之外,隨著烏俄戰爭延燒,美國與歐洲在能源政策方面都持續有轉向更多核能的趨勢,無論是核電廠延役、投資新一代核能技術都是持續在發生的事。目前我國的政策宣示依然是燃氣、燃煤以及再生能源三者50/30/20的比例,只是在再生能源裝置容量未達目標的情況下,要怎麼調整的問題很顯著(背後接著的就是漲電價議題)。

這些環環相扣的議題可能牽一髮動全身,先從生成式AI技術的耗能報導開始吧。

摘要翻譯

生成式人工智慧模型,例如 OpenAI 的 ChatGPT、Anthropic 的 Claude 和 Alphabet 的 Gemini,極度耗電,且逐漸增加全球電力和碳排比例。這促使研究人員開始探索如何減少這項技術對環境的影響。

「我們當然希望能享用這些模型帶來的優勢,無論作為研究者還是用戶都受益良多。但同時,我們必須考量為此消耗的電力成本,」戴爾豪斯大學資訊工程系助理教授 Tushar Sharma 表示。他目前正在研究如何讓生成式 AI 模型更具能源效率。

根據高盛於五月發表的研究,一次 ChatGPT 查詢的耗電量是 Google 搜尋的十倍。AI 初創公司 Hugging Face 和卡內基美隆大學的研究人員在 2023 年 12 月的論文指出,使用高效率 AI 模型生成圖片所需的能源,等同於為一部智慧手機完全充電的電量,而生成文字所需電量約相當於手機充電到 16%。

隨著需求的增加,AI 使用的資料中心電力需求正迅速上升。高盛預測,這些資料中心的用電量在本世紀末將成長 160%,從目前佔全球用電需求的 1% 到 2%,將提升至 3% 至 4%。這些電力消耗轉化為大量溫室氣體排放。儘管少有 AI 公司公佈排放數據,但 Google 在 2024 年 7 月發表的永續報告中指出,2023 年的排放量達到 1,430 萬公噸二氧化碳當量,較前一年增長 13%,相比 2019 年增長了 48%,而資料中心的能源消耗是主要原因之一。「隨著我們將 AI 進一步融入產品中,減少排放將愈加困難,」報告指出。

Microsoft 公司在 2024 年永續報告中提到,由於需要建設更多針對 AI 工作負荷而優化的資料中心,自 2020 年以來其排放量增加了 29%。該公司目前已在多數企業產品中嵌入生成式 AI,並在 Bing 中推出 AI 生成摘要功能。

在蒙特婁工作的 Hugging Face AI 研究員兼氣候主管 Sasha Luccioni 共同撰寫了該公司 12 月的報告,她表示,AI 技術所依賴的高效圖形處理器供應鏈,是 AI 碳足跡中一個尚未深入探討的領域。她指出,生成式模型的電力需求「呈指數級上升」,遠超過早期 AI 模型,因為過去的「傳統」模型本質上是提取式的。傳統的提取式模型搜尋引擎會將查詢轉換成數字序列,然後找出與之相對應的文件或網頁;而生成式模型則需生成一連串可能的詞句來回應查詢,或在建構圖像時逐像素生成,反覆約 100 次,直至生成最終圖像。

Sharma 的研究著重於 AI 模型訓練的優化。他指出,目前大型語言模型( LLMs )需透過大量數據進行訓練,他則試圖識別哪些數據不那麼必要或品質較低,並將其從模型中剔除。「我們不見得需要所有數據,」他解釋道,「重點是要找到保留與淘汰的平衡……並且不影響模型的整體價值。」

他的另一項研究則專注於找出 AI 模型中耗電最多的程式碼「熱點」,並讓這些區塊以更高效率運行。「一個程式可能有 5,000 行程式碼,但並不是每行程式碼都同等耗能,」Sharma 指出。「我們可以對最耗能的 200 行程式碼投入更多的人力優化。」他還提到,希望能找到「具有實力的產業合作夥伴」來支持他的研究,目前正與幾家 AI 公司接洽中。

麻省理工林肯實驗室和麻州東北大學的研究人員也正在探討如何限制 GPU 的單次功率輸出。在測試中,他們在一個大型語言模型的訓練過程中加入功率限制,雖然延長了訓練三小時,但所節省的能源相當於美國普通家庭一週的用電量。

一些大型雲端服務商已經開始投資低碳能源來運行資料中心。 Google 在 10 月中旬宣布投入資金支持小型模組化核反應爐,而 Microsoft 則在 9 月底簽約重新啟用位於賓夕法尼亞州的三厘島核電廠。

Luccioni 表示,減少 AI 模型碳排放的一種方式是採用更小型的模型,因為它們比大型語言模型( LLMs )的能耗更低。根據她的研究,一個小型模型標記 1,000 篇電影評論為正面或負面,僅需 0.3 克二氧化碳,而使用 LLM 執行同樣任務則耗費 10 克二氧化碳。她指出在企業環境中,許多公司希望利用模型進行特定任務,例如情感分析或提供內部文件搜尋及摘要的工具。這些應用其實無需 LLM ,小型模型已能勝任。「在選擇工具時,應該仔細考慮所需的功能,」她說。「如果你需要做文本摘要,生成模型是可行的,但其實也有抽取式模型,可以直接從文本中取出關鍵詞並組成更短的版本。這種技術在 ChatGPT 出現之前就存在了,有時反而更具效率,也更適合特定需求。」

Luccioni 建議人們在使用生成式 AI 系統時保持克制,並反思查詢是否真的需要 AI 支援,例如用計算機解答數學問題,而不是使用 ChatGPT,或是在便條上寫「買牛奶」,而非依賴 Siri 。「 AI 不是無形的,它的存在非常具體,需要計算資源、冷卻資料中心的水資源和供電能源,這些成本都相當可觀,」她說。「只要停下來想一想,‘我即將使用 AI 的這個行為會帶來影響。我應該考慮這是否真有必要。’」

個人觀點

AI的方便性非常顯著,自然而然會越來越普及,但一般使用者會在意每次問答之間需要消耗多少能源嗎?由下到上的節約方式在運作上有太多窒礙難行之處了,尤其是相關AI產品的發布與目的都是希望使用者黏著度越高越好。

另一層次的上到下制度應該是比較可行的手段。電價必須完整反應出所有成本和溫室氣體排放量,所有資料中心都因為吃電怪獸以及高碳排熱點本質被重視了,就會非常合理地尋求節電以及降低碳排的方案。

環境議題的外部成本內部化,雖然是老生常談的舊概念,但也才是很多問題的治本之道。各種碳定價的根本原理在此,也是為何會比強制規範效果更好的原因。

相關文章

歡迎留言分享,也期待你追蹤並加入沙龍,一起關心氣候變遷與碳移除。

與這個主題相關的文章連結整理如下:

碳債是什麼?該怎麼償還?公平嗎?

旅宿餐飲的淨零承諾:理想與現實的衝突

氣候變遷與心理思維:David Finnigan的演講啟示

微軟與UNDO攜手推動加強岩石風化技術以實現負碳目標

拆包ESG,是分手擂台的時候了嗎?



avatar-img
9會員
71內容數
分享氣候變遷與環境政策主題。 增廣見聞之餘,讓生活產生更多洞見。 如果有想了解的新知、產業資訊、相關主題內容等, 都非常歡迎在文章中留言讓我知道。
留言0
查看全部
avatar-img
發表第一個留言支持創作者!
細雨徐行的沙龍 的其他內容
有一種將二氧化碳封存的方式為碳礦化,其原理為將二氧化碳轉換為碳酸鹽類後封存或利用。新創公司 CarbonCure 擁有直接再利用捕捉到的二氧化碳技術,是將捕捉到的二氧化碳封存進混凝土並且做到規模化的廠商之一。近日CarbonCure達到了封存500,000 公噸 CO2 里程碑,是相當顯著的成就。
衛報的最新報導指出,超過六十位專家聲明成效不彰的碳抵換影響真正淨零目標,必須更認真推動廢除化石燃料,達到完全零排放。其聲明主要論點認為若要有 50% 的機會將全球升溫控制在 1.5°C 內,必須在 2030 年前全面停用化石燃料;若希望 50% 的機會控制在 2°C 以下,需在 2040 年前達成。
本文整理翻譯英國氣候議題相關資訊平台 CarbonBrief 之 CBAM 的影響與成效 Q&A 文章,內容相當完整,討論面相也涵蓋正反面意見。全文介紹了CBAM來源、為何歐盟會啟用此關稅機制、如何運作、預期減量成效、發展中國家如何反應以及是否有其他國家也在推動類似機制。
彭博社對於企業在使用碳抵換的行爲上進行了持續追蹤調查,近期整理報導顯示依然有些企業持續買進並使用被評為低效的垃圾碳權。這批調查研究以及報導所指涉之垃圾碳權主要標的為再生能源類別碳抵換專案,主要原因是這些專案缺乏外加性。意味著就算沒有這些專案,本身就具備經濟可行性,無論有沒有額外碳權誘因都會發生。
Carbon Removal Alliance (CRA)是一個推動碳移除政策和技術的創新的新創組織,本週推出一份MRV報告( Monitoring, Reporting, and Verification,監測、報告及驗證),內容涵蓋MRV之重點、挑戰以及政策建議。本文將通篇報告摘要後翻譯分享。
NASDAQ今年年中針對企業們進行一系列的碳權與碳移除調查,其結果顯示企業們對於碳移除相關技術與抵換興趣與需求持續在成長,因為這些計劃符合淨零目標的需求。但產業界對於相關碳移除技術細節、成效以及應用方式仍有許多不了解之處,因此仍然在尋求學習機會,對於碳權教育的興趣持續成長中。
有一種將二氧化碳封存的方式為碳礦化,其原理為將二氧化碳轉換為碳酸鹽類後封存或利用。新創公司 CarbonCure 擁有直接再利用捕捉到的二氧化碳技術,是將捕捉到的二氧化碳封存進混凝土並且做到規模化的廠商之一。近日CarbonCure達到了封存500,000 公噸 CO2 里程碑,是相當顯著的成就。
衛報的最新報導指出,超過六十位專家聲明成效不彰的碳抵換影響真正淨零目標,必須更認真推動廢除化石燃料,達到完全零排放。其聲明主要論點認為若要有 50% 的機會將全球升溫控制在 1.5°C 內,必須在 2030 年前全面停用化石燃料;若希望 50% 的機會控制在 2°C 以下,需在 2040 年前達成。
本文整理翻譯英國氣候議題相關資訊平台 CarbonBrief 之 CBAM 的影響與成效 Q&A 文章,內容相當完整,討論面相也涵蓋正反面意見。全文介紹了CBAM來源、為何歐盟會啟用此關稅機制、如何運作、預期減量成效、發展中國家如何反應以及是否有其他國家也在推動類似機制。
彭博社對於企業在使用碳抵換的行爲上進行了持續追蹤調查,近期整理報導顯示依然有些企業持續買進並使用被評為低效的垃圾碳權。這批調查研究以及報導所指涉之垃圾碳權主要標的為再生能源類別碳抵換專案,主要原因是這些專案缺乏外加性。意味著就算沒有這些專案,本身就具備經濟可行性,無論有沒有額外碳權誘因都會發生。
Carbon Removal Alliance (CRA)是一個推動碳移除政策和技術的創新的新創組織,本週推出一份MRV報告( Monitoring, Reporting, and Verification,監測、報告及驗證),內容涵蓋MRV之重點、挑戰以及政策建議。本文將通篇報告摘要後翻譯分享。
NASDAQ今年年中針對企業們進行一系列的碳權與碳移除調查,其結果顯示企業們對於碳移除相關技術與抵換興趣與需求持續在成長,因為這些計劃符合淨零目標的需求。但產業界對於相關碳移除技術細節、成效以及應用方式仍有許多不了解之處,因此仍然在尋求學習機會,對於碳權教育的興趣持續成長中。
你可能也想看
Google News 追蹤
Thumbnail
這個秋,Chill 嗨嗨!穿搭美美去賞楓,裝備款款去露營⋯⋯你的秋天怎麼過?秋日 To Do List 等你分享! 秋季全站徵文,我們準備了五個創作主題,參賽還有機會獲得「火烤兩用鍋」,一起來看看如何參加吧~
Thumbnail
11/20日NVDA即將公布最新一期的財報, 今天Sell Side的分析師, 開始調高目標價, 市場的股價也開始反應, 未來一週NVDA將重新回到美股市場的焦點, 今天我們要分析NVDA Sell Side怎麼看待這次NVDA的財報預測, 以及實際上Buy Side的倉位及操作, 從
Thumbnail
Hi 大家好,我是Ethan😊 相近大家都知道保濕是皮膚保養中最基本,也是最重要的一步。無論是在畫室裡長時間對著畫布,還是在旅途中面對各種氣候變化,保持皮膚的水分平衡對我來說至關重要。保濕化妝水不僅能迅速為皮膚補水,還能提升後續保養品的吸收效率。 曾經,我的保養程序簡單到只包括清潔和隨意上乳液
Thumbnail
AI PC 是將 AI 模型與傳統 PC 緊密結合的裝置,為本地 AI 運算能力,更能保護用戶的隱私和數據安全。 AI PC 具有 NPU、CPU 以及 GPU,並能夠具備高算力 AI 應用的需求,在 AI 運算性能、效率跟功耗方面,NPU 相較 CPU 與 GPU 具有大幅優勢。
Thumbnail
隨著近年來的AI浪潮,讓大家普遍對於AI後續的發展充滿了期待。今年所舉辦的台北電腦展 (Computex),讓這樣的相關的討論更加熱烈。有在投資的讀者們或多或少都會看到相關產業鏈的梳理,像是AI伺服器需要什麼奈米的晶圓製程、需要那些先進封裝測試技術、需要什麼樣的水冷技術、哪些的OEM廠 (O
Thumbnail
未來的AI處理器發展趨勢將會持續專注於提升效能並降低能源消耗。 以下是一些可能的發展方向: 新一代NPU:例如,英特爾已經發表了新一代AI PC處理器Lunar Lake,該處理器的NPU算力是前一代的3倍多,且耗能較前一代低40%。 多模態生成式AI的興起:這種AI結合了文本、圖像、視頻等多
Thumbnail
NVIDIA的新目標是成為支援企業開發AI應用程式的「AI晶圓代工」,提供技術、專業知識和基礎設施,幫助實現AI應用。具體而言,NVIDIA將提供GPU、自主CPU「Grace」、超級計算機及其硬體,還有軟體和工具,以滿足客戶需求。
Thumbnail
作者認為AI,它不特屬於哪一個產業,在一定時間成熟之後,它充斥你我生活之中,就是像水電一樣的自然。有很多人還搞不清楚它的未來發展到哪裡? 當這變化還很劇烈時,過早投入反而浪費時間與成本,所以作者的洞見是:什麼是你我最珍貴的價值?
Thumbnail
這篇文章探討了NVIDIA在推論式AI半導體市場的挑戰,以及介紹了Intel在AI領域的強化舉措。文章中提到了新興企業可能有機會取代現有市場領導者,並討論了RISC-V技術在AI半導體市場的應用和其他相關動向。
Thumbnail
科技巨擘聯手推進生成式AI發展 開創人工智慧新時代 在生成式人工智慧(Generative AI)的浪潮中,雲端運算龍頭AWS和晶片巨擘NVIDIA攜手合作,推出一系列革命性的基礎設施、軟體和服務。
Thumbnail
在科技發展的浪潮中,生成式AI無疑是引領未來的關鍵力量。透過深度學習技術,AI系統能夠從大量資料中發掘規律,並創造出全新的內容,無論是文字、圖像、音頻還是視頻,都可以在AI的加持下重新定義。
Thumbnail
根據高盛最近的研究報告,未來的個人電腦和移動設備將搭載更多由AI增強後的應用程式,如AI增強、安全性提升和運算能力強化。 消費性電子股票組合<GSXUPCAI>也顯示出潛力,並列出了成分股以及其權重。
Thumbnail
NVIDIA 黃仁勳 - AI人工智慧時代如何帶動全球新產業革命(個人紀錄用) 🇺🇸Omniverse 就是未來集大成,而加速運算、人工智慧就是兩個最重要的技術核心 🇺🇸CPU效能的擴充速度正在大幅降低,提出「運算通膨」概念
Thumbnail
這個秋,Chill 嗨嗨!穿搭美美去賞楓,裝備款款去露營⋯⋯你的秋天怎麼過?秋日 To Do List 等你分享! 秋季全站徵文,我們準備了五個創作主題,參賽還有機會獲得「火烤兩用鍋」,一起來看看如何參加吧~
Thumbnail
11/20日NVDA即將公布最新一期的財報, 今天Sell Side的分析師, 開始調高目標價, 市場的股價也開始反應, 未來一週NVDA將重新回到美股市場的焦點, 今天我們要分析NVDA Sell Side怎麼看待這次NVDA的財報預測, 以及實際上Buy Side的倉位及操作, 從
Thumbnail
Hi 大家好,我是Ethan😊 相近大家都知道保濕是皮膚保養中最基本,也是最重要的一步。無論是在畫室裡長時間對著畫布,還是在旅途中面對各種氣候變化,保持皮膚的水分平衡對我來說至關重要。保濕化妝水不僅能迅速為皮膚補水,還能提升後續保養品的吸收效率。 曾經,我的保養程序簡單到只包括清潔和隨意上乳液
Thumbnail
AI PC 是將 AI 模型與傳統 PC 緊密結合的裝置,為本地 AI 運算能力,更能保護用戶的隱私和數據安全。 AI PC 具有 NPU、CPU 以及 GPU,並能夠具備高算力 AI 應用的需求,在 AI 運算性能、效率跟功耗方面,NPU 相較 CPU 與 GPU 具有大幅優勢。
Thumbnail
隨著近年來的AI浪潮,讓大家普遍對於AI後續的發展充滿了期待。今年所舉辦的台北電腦展 (Computex),讓這樣的相關的討論更加熱烈。有在投資的讀者們或多或少都會看到相關產業鏈的梳理,像是AI伺服器需要什麼奈米的晶圓製程、需要那些先進封裝測試技術、需要什麼樣的水冷技術、哪些的OEM廠 (O
Thumbnail
未來的AI處理器發展趨勢將會持續專注於提升效能並降低能源消耗。 以下是一些可能的發展方向: 新一代NPU:例如,英特爾已經發表了新一代AI PC處理器Lunar Lake,該處理器的NPU算力是前一代的3倍多,且耗能較前一代低40%。 多模態生成式AI的興起:這種AI結合了文本、圖像、視頻等多
Thumbnail
NVIDIA的新目標是成為支援企業開發AI應用程式的「AI晶圓代工」,提供技術、專業知識和基礎設施,幫助實現AI應用。具體而言,NVIDIA將提供GPU、自主CPU「Grace」、超級計算機及其硬體,還有軟體和工具,以滿足客戶需求。
Thumbnail
作者認為AI,它不特屬於哪一個產業,在一定時間成熟之後,它充斥你我生活之中,就是像水電一樣的自然。有很多人還搞不清楚它的未來發展到哪裡? 當這變化還很劇烈時,過早投入反而浪費時間與成本,所以作者的洞見是:什麼是你我最珍貴的價值?
Thumbnail
這篇文章探討了NVIDIA在推論式AI半導體市場的挑戰,以及介紹了Intel在AI領域的強化舉措。文章中提到了新興企業可能有機會取代現有市場領導者,並討論了RISC-V技術在AI半導體市場的應用和其他相關動向。
Thumbnail
科技巨擘聯手推進生成式AI發展 開創人工智慧新時代 在生成式人工智慧(Generative AI)的浪潮中,雲端運算龍頭AWS和晶片巨擘NVIDIA攜手合作,推出一系列革命性的基礎設施、軟體和服務。
Thumbnail
在科技發展的浪潮中,生成式AI無疑是引領未來的關鍵力量。透過深度學習技術,AI系統能夠從大量資料中發掘規律,並創造出全新的內容,無論是文字、圖像、音頻還是視頻,都可以在AI的加持下重新定義。
Thumbnail
根據高盛最近的研究報告,未來的個人電腦和移動設備將搭載更多由AI增強後的應用程式,如AI增強、安全性提升和運算能力強化。 消費性電子股票組合<GSXUPCAI>也顯示出潛力,並列出了成分股以及其權重。
Thumbnail
NVIDIA 黃仁勳 - AI人工智慧時代如何帶動全球新產業革命(個人紀錄用) 🇺🇸Omniverse 就是未來集大成,而加速運算、人工智慧就是兩個最重要的技術核心 🇺🇸CPU效能的擴充速度正在大幅降低,提出「運算通膨」概念