付費限定

快速準確AI預測全球天氣 with GraphCast by Google Research Lam et al.

閱讀時間約 6 分鐘

在三國演義中,赤壁之戰,諸葛亮憑藉對湖陸風向的預測,火燒連環船,使得孫劉聯軍得以大敗曹操,奠定三國鼎立的基礎。由此可見,對於天氣的精密掌握,不僅得以改善各種生存條件,還能藉此訂定各種軍事策略,對於各種地緣政治紛爭的此刻,有其重大意義,於是各國對於快速準確的天氣預測技術,皆十分有興趣。

Google Research於2023年11月,在自然(Nature)雜誌上,發表了能夠快速且準確預測全球天氣的人工智慧模型,採用自回歸(self-Regression),如同GPT那樣進行逐步推演,可以預測到10天後,比歐洲中期天氣預報中心(ECMWF)用超級計算機計算的高解析HRES方法,預測的還要準確。預測的項目包含溫度,風速,壓力,濕度,等等。開源程式碼python Jax 寫成,Jax套件由Google開發,可對神經網路運算進行加速優化。


論文主要架構:

使用Graph Neuron Network,如下圖所示,每一個Mesh point的Embedding,皆由鄰近的地理天氣數據經過MLP(Multiple Layer Perceptron)編碼產生,此過程被論文稱為Grid-to-Mesh。緊接著,使用MLP採樣如下圖所示M0~M6的Mesh points產生更進一步的Embeddings,此過程被論文稱為Mesh-to-Mesh。最後解回來僅參考鄰近的三個Mesh,輸入皆為上一步產生的,更進一步的Embeddings,經由MLP傳導至輸出,此過程被論文稱為Mesh-to-Grid,這裡的構造設計充分利用資料的空間相關性

自回歸的方式逐步預測全球天氣,利用Grid-Mesh-Grid的資料結構準換,搭建MLP神經網路,用於準確預測全球天氣

自回歸的方式逐步預測全球天氣,利用Grid-Mesh-Grid的資料結構準換,搭建MLP神經網路,用於準確預測全球天氣


時間相關性部分,GraphCast使用相鄰的一個時間來推斷,輸入總共是兩筆時間的Data,後續的預測輸入拿先前的輸出結果來做預測,這就是俗稱自回歸的過程,也是目前GPT文字接龍使用的方式,作者發現取鄰近兩個時間的資料,效果比單一時間還好,取兩個以上的部分,效果並沒有改善很多,相比於Memory使用量的開銷來說。

raw-image


以行動支持創作者!付費即可解鎖
本篇內容共 2702 字、0 則留言,僅發佈於人工智慧宇宙你目前無法檢視以下內容,可能因為尚未登入,或沒有該房間的查看權限。
96會員
128內容數
帶你用上帝視角,針對市面上具有高度價值的影片/論文/書籍,用東方取象,與西方邏輯辯證的角度同時出發,跟著我一起來探討宇宙萬事萬物的本質,隨時隨地都可以來一場說走就走的思維旅行。作者在台積電 / 聯發科等科技產業有累計10年的資歷,近期對於人工智慧,東方易經,西方辯證邏輯,還有佛法向內求有深度興趣。
留言0
查看全部
發表第一個留言支持創作者!
隨著生成式AI不斷的推陳出新,對於能有效壓縮這些豐富且大量內容的技術,變得至關重要,影響著傳輸速度與執行速度,本文的壓縮架構,能夠有效地做成專用IC,在同樣的畫質水準下,甚至能夠達成JPEG 1/3的壓縮後容量,此方法可應用在各種3D NeRF生成作品上面,各種VR與3D生成技術都必然會用到。
Google Research 在2024年給出了令人滿意的新年禮物,這篇論文內的方法,若持續發展下去,可望顛覆整個影音創作產業,未來製作生動的影音動畫,不再是令人頭痛與耗費心力的一件事情,是不是很酷,讓我們一起看看到底是如何做到的。
要如何做到無須任何額外訓練樣本就能做到"跨語言"的語音生成,這聽起來很不可思議對吧? 但這就是本篇論文取得的成就,不僅如此,該有的功能,如調整情感,口音節奏,停頓語調這些功能也不在話下。跟著我一起用探秘還有獨立思考的眼光來分析這篇論文,這會是很有趣的旅程。
Transformer被廣泛運用在各種生成式AI,激起了本篇作者的好奇心,是否能用Transformer學到所有先驗知識,足以讓它由一張2D圖片還原3D物件。本篇也從Github上面找到由ZexinHe開源的LRM實作程式,讓有興趣的人可以深入研究。
文字生成圖片的擴散生成模型,實際應用上並沒有想像中好用,原因在於,文字能夠乘載的訊息量太少,要產生好的生成結果一定程度仰賴特定的Prompt描述方法,如DALL-E3使用GPT4不斷增加描述的細節,讓文生圖的結果更好,有沒有更有效率的方式呢?
知名的 Mistral AI 團隊近期丟出了使用 SMOE技術搭建的Mixtral-8x7B,能用較小的運算資源與參數量,打敗ChatGPT3的考試成績。本文藉由兩篇SMOE論文的導讀,抽取其中的核心概念,試圖打開技術的神秘面紗。
隨著生成式AI不斷的推陳出新,對於能有效壓縮這些豐富且大量內容的技術,變得至關重要,影響著傳輸速度與執行速度,本文的壓縮架構,能夠有效地做成專用IC,在同樣的畫質水準下,甚至能夠達成JPEG 1/3的壓縮後容量,此方法可應用在各種3D NeRF生成作品上面,各種VR與3D生成技術都必然會用到。
Google Research 在2024年給出了令人滿意的新年禮物,這篇論文內的方法,若持續發展下去,可望顛覆整個影音創作產業,未來製作生動的影音動畫,不再是令人頭痛與耗費心力的一件事情,是不是很酷,讓我們一起看看到底是如何做到的。
要如何做到無須任何額外訓練樣本就能做到"跨語言"的語音生成,這聽起來很不可思議對吧? 但這就是本篇論文取得的成就,不僅如此,該有的功能,如調整情感,口音節奏,停頓語調這些功能也不在話下。跟著我一起用探秘還有獨立思考的眼光來分析這篇論文,這會是很有趣的旅程。
Transformer被廣泛運用在各種生成式AI,激起了本篇作者的好奇心,是否能用Transformer學到所有先驗知識,足以讓它由一張2D圖片還原3D物件。本篇也從Github上面找到由ZexinHe開源的LRM實作程式,讓有興趣的人可以深入研究。
文字生成圖片的擴散生成模型,實際應用上並沒有想像中好用,原因在於,文字能夠乘載的訊息量太少,要產生好的生成結果一定程度仰賴特定的Prompt描述方法,如DALL-E3使用GPT4不斷增加描述的細節,讓文生圖的結果更好,有沒有更有效率的方式呢?
知名的 Mistral AI 團隊近期丟出了使用 SMOE技術搭建的Mixtral-8x7B,能用較小的運算資源與參數量,打敗ChatGPT3的考試成績。本文藉由兩篇SMOE論文的導讀,抽取其中的核心概念,試圖打開技術的神秘面紗。
你可能也想看
Google News 追蹤
Thumbnail
這個秋,Chill 嗨嗨!穿搭美美去賞楓,裝備款款去露營⋯⋯你的秋天怎麼過?秋日 To Do List 等你分享! 秋季全站徵文,我們準備了五個創作主題,參賽還有機會獲得「火烤兩用鍋」,一起來看看如何參加吧~
Thumbnail
不管是在初入市場的新手投資者或是在參與股海已久的老手們,ETF這項投資工具既可以分散風險又能長期投資,甚至部分ETF還有配息的功能,這些因素都使得ETF成為投資者們資產配置中不可或缺的項目之一,那麼既然會常使用到這項投資工具,我們就更該了解在配息型的ETF中常看到的一個名詞「收益平準金」,了解它不會
嗨!大家好,我是一位有點社恐的打工人稀飯。相信許多人多少有聽說過線上調查填寫問卷可以賺取額外收入的廣告,最近好奇嘗試看看,發現真的能賺到錢。
Thumbnail
時間有限下,如何快速準備證照國考 目前取得的證照,共有八張,會計師、記帳士、證券分析師、地政士、不動產經紀人及就業服務乙級證照,從考證券分析師完開始開竅,從2021年中至2023年中,將近二年時間,我考上六張證照,考證券分析師花了1年,地政士花4個多月,不動產經紀人3個多月,就業服務乙級證1個多月。
Thumbnail
從2021年開始相信大家就很常聽到同質化代幣與非同質化代幣(NFT)這兩個名詞,因為NFT熱潮,大家比較容易理解什麼是非同質化代幣。 但代幣有不同的應用與功能,產生許多不同的代幣標準,以下由貝瑞大叔替大家整理代幣標準的起源以及不同的代幣標準之間到底有什麼差異呢? |關於以太坊ERC標準的起源
Thumbnail
黃金值得投資嗎?A股現在已經跌到沒眼看,很多人已經將目光放在了黃金身上,美聯儲最近釋放了緩和加息的消息,對抗通脹可以縮減資產負債表,不必要激進加息,這利好黃金。在2022年有必要購買一些黃金資產,對沖風險,下麵為大家講講炒黃金平臺,如何快速找到正規安全的?
Thumbnail
那天跟同事們聊起來,都問我早上是怎麽來得及先準備好午餐才上班,才知道原來在一個小時內準備好三個人的午餐在大家眼中就算是很快速了。
Thumbnail
勞退自選已經講了好多年了, 連個影子都沒有。這次好在政府終於聽見民意, 在今年邁出了一小步, 推出了好好退休平台。雖然尚未連結到勞退基金(讓人翻白眼), 但總算有了比較適合普羅大眾的選擇。Mr. S在這篇文章就以一個跟大家一樣同是消費者的角度來檢視並開箱這個平台。
Thumbnail
【本週關注焦點】 一、 美國重要大事及經濟數據 (1) 週一ISM製造業指數:7月ISM製造業指數,市場預期將自60.6些微下滑至60.5。 (2) 週三ISM服務業指數:7月ISM非製造業指數,市場預期將自60.1些微上升至60.2。 (3) 週五非農就業數據:6月非農就業數據為850K,目前市場
Thumbnail
搬家工具如何準備?這4類工具幫助你快速收納! 搬家工具是搬家過程中首要準備的物品,它們不僅能保護家具在運送過程中不被撞壞或散落一地,更是重要的搬家收納技巧之一!想知道搬家時需要準備的工具有哪些嗎?請繼續看下去!
Thumbnail
又到了每年7月份的流感高發季節,這段時間除了流感病毒外,還存在新冠病毒的威脅,所以,像兒童、老人等抵抗力弱的人群,更應預防好流感,以免病毒入侵。目前有一些快速流感測試方法,能早發現早治療,但要做到免於干擾,最有效的預防方法還當屬注射流感疫苗。 1、快速流感測試有什麼用? 流感主要分為甲、乙、丙3種
Thumbnail
這個秋,Chill 嗨嗨!穿搭美美去賞楓,裝備款款去露營⋯⋯你的秋天怎麼過?秋日 To Do List 等你分享! 秋季全站徵文,我們準備了五個創作主題,參賽還有機會獲得「火烤兩用鍋」,一起來看看如何參加吧~
Thumbnail
不管是在初入市場的新手投資者或是在參與股海已久的老手們,ETF這項投資工具既可以分散風險又能長期投資,甚至部分ETF還有配息的功能,這些因素都使得ETF成為投資者們資產配置中不可或缺的項目之一,那麼既然會常使用到這項投資工具,我們就更該了解在配息型的ETF中常看到的一個名詞「收益平準金」,了解它不會
嗨!大家好,我是一位有點社恐的打工人稀飯。相信許多人多少有聽說過線上調查填寫問卷可以賺取額外收入的廣告,最近好奇嘗試看看,發現真的能賺到錢。
Thumbnail
時間有限下,如何快速準備證照國考 目前取得的證照,共有八張,會計師、記帳士、證券分析師、地政士、不動產經紀人及就業服務乙級證照,從考證券分析師完開始開竅,從2021年中至2023年中,將近二年時間,我考上六張證照,考證券分析師花了1年,地政士花4個多月,不動產經紀人3個多月,就業服務乙級證1個多月。
Thumbnail
從2021年開始相信大家就很常聽到同質化代幣與非同質化代幣(NFT)這兩個名詞,因為NFT熱潮,大家比較容易理解什麼是非同質化代幣。 但代幣有不同的應用與功能,產生許多不同的代幣標準,以下由貝瑞大叔替大家整理代幣標準的起源以及不同的代幣標準之間到底有什麼差異呢? |關於以太坊ERC標準的起源
Thumbnail
黃金值得投資嗎?A股現在已經跌到沒眼看,很多人已經將目光放在了黃金身上,美聯儲最近釋放了緩和加息的消息,對抗通脹可以縮減資產負債表,不必要激進加息,這利好黃金。在2022年有必要購買一些黃金資產,對沖風險,下麵為大家講講炒黃金平臺,如何快速找到正規安全的?
Thumbnail
那天跟同事們聊起來,都問我早上是怎麽來得及先準備好午餐才上班,才知道原來在一個小時內準備好三個人的午餐在大家眼中就算是很快速了。
Thumbnail
勞退自選已經講了好多年了, 連個影子都沒有。這次好在政府終於聽見民意, 在今年邁出了一小步, 推出了好好退休平台。雖然尚未連結到勞退基金(讓人翻白眼), 但總算有了比較適合普羅大眾的選擇。Mr. S在這篇文章就以一個跟大家一樣同是消費者的角度來檢視並開箱這個平台。
Thumbnail
【本週關注焦點】 一、 美國重要大事及經濟數據 (1) 週一ISM製造業指數:7月ISM製造業指數,市場預期將自60.6些微下滑至60.5。 (2) 週三ISM服務業指數:7月ISM非製造業指數,市場預期將自60.1些微上升至60.2。 (3) 週五非農就業數據:6月非農就業數據為850K,目前市場
Thumbnail
搬家工具如何準備?這4類工具幫助你快速收納! 搬家工具是搬家過程中首要準備的物品,它們不僅能保護家具在運送過程中不被撞壞或散落一地,更是重要的搬家收納技巧之一!想知道搬家時需要準備的工具有哪些嗎?請繼續看下去!
Thumbnail
又到了每年7月份的流感高發季節,這段時間除了流感病毒外,還存在新冠病毒的威脅,所以,像兒童、老人等抵抗力弱的人群,更應預防好流感,以免病毒入侵。目前有一些快速流感測試方法,能早發現早治療,但要做到免於干擾,最有效的預防方法還當屬注射流感疫苗。 1、快速流感測試有什麼用? 流感主要分為甲、乙、丙3種