【深智書摘】AI 2.0 - 5年前出現的TF接班人—JAX—重磅出世

更新於 2023/02/23閱讀時間約 5 分鐘
在AI已經全民運動的年代,Google還是希望有一個更小巧精美的深度學習套件讓大家都能快速上手──JAX就這麼誕生了。
在台灣,本書可說是領先群雄的第一本JAX手冊。不管你是Tensorflow或PyTorch的使用者,都可以試著從MNIST開始。當你發現JAX的程式碼行數是Tensorflow的1/10、PyTorch的1/3,不僅速度更快,程式還更容易理解、更加「Pythnoic」。現在,你真的可以放心的進入JAX的世界,當你上手之後,不論是CNN、RNN、NLP或是GAN,全部可以又快又好又清楚地做出來。

JAX是什麼?】

「工欲善其事,必先利其器」。人工智慧或其核心理論深度學習也一樣。任何一個好的成果實作並在將來發揮其巨大作用,都需要一個能夠將其實作並應用的基本框架工具。JAX 是機器學習框架領域的新生力量,它具有更快的高階微分計算方法,可以採用先編譯後執行的模式,突破了已有深度學習框架的局限性,同時具有更好的硬體支援,甚至將來可能會成為Google 的主要科學計算深度學習函數庫。
JAX 官方文件的解釋是:「JAX 是CPU、GPU 和TPU 上的NumPy,具有出色的自動差異化功能,可用於高性能機器學習研究。」就像JAX 官方文件解釋的那樣,最簡單的JAX 是加速器支持的NumPy,它具有一些便利的功能,具有一定靈活性,可用於常見的機器學習操作。

【JAX與XLA】

在全面講解JAX 之前先介紹一下XLA。簡單來說,XLA 是將JAX轉化為加速器支持操作的中堅力量。XLA 的全稱是Accelerated Linear Algebra,即加速線性代數。身為深度學習編譯器,其長期以來作為Google 在深度學習領域的重要特性被開發,歷時至今已經超過兩年,特別是作為TensorFlow 2.0 背後支持力量之一,XLA 也終於從試驗特性變成了預設打開的特性。
JAX 可以自動微分本機Python 和NumPy 程式。它可以透過Python的大部分功能(包括迴圈、if、遞迴和閉包)進行微分,甚至可以採用衍生類別的衍生類別。它支援反向模式和正向模式微分,並且兩者可以以任意順序組成。
JAX 的新功能是使用XLA 在諸如GPU 和TPU 的加速器上編譯和執行NumPy 程式。預設情況下,編譯是在後台進行的,而函數庫呼叫將得到即時的編譯和執行。但是,JAX 允許使用單功能API 將Python 函數編譯為XLA 最佳化的核心。編譯和自動微分可以任意組合,因此我們無需離開Python 即可表達複雜的演算法並獲得最佳性能。

【JAX NumPy】

JAX 在應用上是想取代NumPy 成為下一代標準運算函數庫。眾所皆知,NumPy 提供了一個功能強大的數字處理API。JAX 吸取NumPy 的優點並使之成為自己框架的部分,同時這也能在不改變使用者使用習慣的基礎上方便使用者快速掌握JAX。
在一定程度上,NumPy 的API 可以無縫平移到JAX 中使用,可以說JAX API 緊接NumPy 的API。然而還是有一些重要的區別的。最重要的區別就是JAX 是被設計為函數式的,就像函數式程式設計一樣(例如Scala 語言)。這背後的原因是JAX 支援的程式轉換類型在函數式程式中更可行。

【用JAX實作GAN生成對抗網路】

GAN 是一種生成式的對抗網路。具體來說,就是透過對抗的方式去學習資料分佈的生成式模型。所謂的對抗,指的是生成網路和判別網路的互相對抗。生成網路盡可能生成逼真樣本,判別網路則盡可能去判別該樣本是真實樣本還是生成的假樣本。
  • 判別器:學習不同類別和標籤之間的區分界限。
  • 生成器:學習標籤中某一類的機率分佈進行建模。
判別器中的判別演算法能夠判別這幅畫是不是由真正的畫家完成的。
標籤被定義為y,而特徵向量被定義為x,那麼判別器的判定公式就是:
discriminator = p( y | x)
生成器的做法恰恰相反,它不關心向量是什麼形式和內容,只關心給定標籤資訊,嘗試由給定的標籤內容去生成特徵,這也和人類思考的過程相類似。
正如其他一些具有非常大研究價值和潛力的學科一樣,GAN 的發展也越來越受到關注,對其的研究也越深入。GAN 採用簡單的生成與判別關係,在大量重複學習運算之後,可能為行業發展帶來十分巨大的想像力。從基本原理上看,GAN 可以透過不斷地自我判別來推導出更真實、更符合訓練目的的生成樣本。這就給圖片、視訊等領域帶來了極大的想像空間。
--
本書深度解說最新人工智慧套件JAX的使用。從基本概念開始談起,在Windows環境下架設WSL以方便使用GPU,而不需要全新從Linux安裝。
人工智慧時代的來臨造就了Keras的大流行,你可以開始使用JAX連貫所有技能,習得更多元的機器學習技能。
--
本文取自深智數位出版之〈Tensorflow 接班王者:Google JAX 深度學習又快又強大〉
為什麼會看到廣告
avatar-img
9會員
25內容數
留言0
查看全部
avatar-img
發表第一個留言支持創作者!
深智數位的沙龍 的其他內容
2306 WordPress可以做到的,不僅僅是SEO,它還能夠整合Facebook、Instagram、廣告投放,將社群行銷的效益發揮到最大。 同樣是架設網站,為什麼不選擇一個投資報酬率最大的網站呢?
在CPU世界,大型商業機構掌握了處理器的設計,使得我們也必須屈從於封閉式的CPU架構。這也是為什麼目前個人電腦只有AMD和Intel兩家可以選擇。然而在RISC-V的出現,我們終於嗅到了CPU世界的自由氣息。
馬克•庫班(NBA獨行俠隊老闆,億萬富翁)說過:「人工智慧、深度學習和機器學習,不論你現在是否能夠理解這些概念,你都應該學習。否則三年內,你就會像被滅絕的恐龍一樣被社會淘汰。現在不開始,以後就來不及了。」
人們透過機器學習(machine learning),試著讓電腦能夠從大量資料中學習成長,不僅可以運用在生活各方面的功能提升,甚至還能透過這些既有的資料,起到鑑往知來的效果,處在當今資訊爆炸的時代,正是你開始學機器學習的最好時機!
Qt是軟體開發領域中非常著名的C++視覺化開發平台,能夠為應用程式開發者提供建立專業圖形化使用者介面所需的所有功能。QT有很完整的硬體、作業系統、視窗元件的處理,它是完全物件導向的,很容易擴充,並且可應用於元件程式設計,也是目前流行的Linux 桌面環境KDE 的基礎。
正所謂「套件」如其名,Pandas 運算套件在資料處理領域的受歡迎程度完全可與善於賣萌的大熊貓相媲美。當然,Pandas 的名稱其實來自經濟學術語—面板資料 (panel data)。 眾所皆知,金融領域存在巨量的資料處理與分析,而Pandas 運算套件就是當時就職於AQR Capi
2306 WordPress可以做到的,不僅僅是SEO,它還能夠整合Facebook、Instagram、廣告投放,將社群行銷的效益發揮到最大。 同樣是架設網站,為什麼不選擇一個投資報酬率最大的網站呢?
在CPU世界,大型商業機構掌握了處理器的設計,使得我們也必須屈從於封閉式的CPU架構。這也是為什麼目前個人電腦只有AMD和Intel兩家可以選擇。然而在RISC-V的出現,我們終於嗅到了CPU世界的自由氣息。
馬克•庫班(NBA獨行俠隊老闆,億萬富翁)說過:「人工智慧、深度學習和機器學習,不論你現在是否能夠理解這些概念,你都應該學習。否則三年內,你就會像被滅絕的恐龍一樣被社會淘汰。現在不開始,以後就來不及了。」
人們透過機器學習(machine learning),試著讓電腦能夠從大量資料中學習成長,不僅可以運用在生活各方面的功能提升,甚至還能透過這些既有的資料,起到鑑往知來的效果,處在當今資訊爆炸的時代,正是你開始學機器學習的最好時機!
Qt是軟體開發領域中非常著名的C++視覺化開發平台,能夠為應用程式開發者提供建立專業圖形化使用者介面所需的所有功能。QT有很完整的硬體、作業系統、視窗元件的處理,它是完全物件導向的,很容易擴充,並且可應用於元件程式設計,也是目前流行的Linux 桌面環境KDE 的基礎。
正所謂「套件」如其名,Pandas 運算套件在資料處理領域的受歡迎程度完全可與善於賣萌的大熊貓相媲美。當然,Pandas 的名稱其實來自經濟學術語—面板資料 (panel data)。 眾所皆知,金融領域存在巨量的資料處理與分析,而Pandas 運算套件就是當時就職於AQR Capi
你可能也想看
Google News 追蹤
Thumbnail
*合作聲明與警語: 本文係由國泰世華銀行邀稿。 證券服務係由國泰世華銀行辦理共同行銷證券經紀開戶業務,定期定額(股)服務由國泰綜合證券提供。   剛出社會的時候,很常在各種 Podcast 或 YouTube 甚至是在朋友間聊天,都會聽到各種市場動態、理財話題,像是:聯準會降息或是近期哪些科
Thumbnail
立法委員郭昱晴今(27)針對文化部業務報告,以三大議題提出質詢,包括「戲曲學校性平案」涉案教師仍在業界為所欲為、「獨立書店訪視員爭議」從遴選制度到評估專業度皆受質疑,以及「資深影視從業人員關懷」依舊沒有進度。
Thumbnail
致鬱系(イヤミス)是由評論家霜月蒼於二○○七年提出的一種推理小說類型,指的是那些讀完後讓人心情沮喪、餘味不佳的作品,其主題通常圍繞在人內心的陰暗面。 森澤藤子,一個遭到父母虐待、同學欺凌,在悲慘的日子裡苦苦掙扎的少女。她始終以為自己的人生就只能在底層打滾,再無翻身的可能。
Thumbnail
用自己的話來寫出自己理解的內容,這種能力是每個寫作者都需要具備的基本技能。
Thumbnail
平均地權條例子法規即將於今(112)年 7 月 1 日正式上路,這次平均地權條例其中一項修正重點,就是限制私法人購買住宅用房屋,必須取得內政部的許可方可購買,本文將完整解析私法人購屋許可制之詳細內容,讓大家瞭解規定以及對自身的影響,並提供申請書表供大家下載參考! 繼續閱讀:https://cpac
Thumbnail
「有聲作品」是小說/文學/漫畫創作者的一項發行選擇型式 眼睛總是在忙,耳朵永遠有空 連續幾年,大家都在說台灣的有聲市場起飛,台灣的收聽群眾的確一直在增加,小說/故事演播、廣播劇改編,是圖文創作者在實體書本、電子書、電視劇、電影以外的的發行型式。在許多國家,因為有聲劇帶起了收聽數,促成電視劇電影爭取改
Thumbnail
如果下輩子到來前可以選擇,你想當男生還是女生? 一直到現在都還存在於這個社會之中,《82 年生的金智英》帶給女性很大的共鳴,也推薦給男性閱讀,讀完能深刻體會到女性面對社會輿論與那些「理所當然」的種種,下次在面對另一半或女性友人、同事時也能多一點的體貼。
Thumbnail
在日本殖民政府有心經營下,臺灣開始有較具規模的出版活動:為便於統治,有各項調查文獻;為推行殖民教育,開始編印各類教科書;為宣揚政績,則有《領臺十年史》、《始政紀念—四十年間的臺灣》等書出版。然而,出版業、書業真的只能成為總督府的魁儡嗎?當新興知識份子開始從事文化啟蒙運動,圖書便由傳播知識的工具,轉變
Thumbnail
「我的朋友們很高興莎士比亞書店還開著」 ——Sylvia Beach 比起Sylvia在戰後親筆寫的散文集《莎士比亞書店》,繪本《席薇亞的書店》更在乎的是,透過房子的自述身世,這間老舊的「房子」,如何在女主人Sylvia席薇亞的巧思之下,蛻變成為一家充滿知識與想像、人文與歡樂的「書店」。
Thumbnail
時光飛梭,2022早已開啟半個月,驚覺還沒在這邊好好回顧我的年度書單!! 分享我的2021年度喜愛十大前,也想說這並沒有名次編排,畢竟每本好書實在很難將他們劃分等級,但都是在這一年中對我具有影響力的書籍。並想在文末新增我的特別提及書單!
Thumbnail
*合作聲明與警語: 本文係由國泰世華銀行邀稿。 證券服務係由國泰世華銀行辦理共同行銷證券經紀開戶業務,定期定額(股)服務由國泰綜合證券提供。   剛出社會的時候,很常在各種 Podcast 或 YouTube 甚至是在朋友間聊天,都會聽到各種市場動態、理財話題,像是:聯準會降息或是近期哪些科
Thumbnail
立法委員郭昱晴今(27)針對文化部業務報告,以三大議題提出質詢,包括「戲曲學校性平案」涉案教師仍在業界為所欲為、「獨立書店訪視員爭議」從遴選制度到評估專業度皆受質疑,以及「資深影視從業人員關懷」依舊沒有進度。
Thumbnail
致鬱系(イヤミス)是由評論家霜月蒼於二○○七年提出的一種推理小說類型,指的是那些讀完後讓人心情沮喪、餘味不佳的作品,其主題通常圍繞在人內心的陰暗面。 森澤藤子,一個遭到父母虐待、同學欺凌,在悲慘的日子裡苦苦掙扎的少女。她始終以為自己的人生就只能在底層打滾,再無翻身的可能。
Thumbnail
用自己的話來寫出自己理解的內容,這種能力是每個寫作者都需要具備的基本技能。
Thumbnail
平均地權條例子法規即將於今(112)年 7 月 1 日正式上路,這次平均地權條例其中一項修正重點,就是限制私法人購買住宅用房屋,必須取得內政部的許可方可購買,本文將完整解析私法人購屋許可制之詳細內容,讓大家瞭解規定以及對自身的影響,並提供申請書表供大家下載參考! 繼續閱讀:https://cpac
Thumbnail
「有聲作品」是小說/文學/漫畫創作者的一項發行選擇型式 眼睛總是在忙,耳朵永遠有空 連續幾年,大家都在說台灣的有聲市場起飛,台灣的收聽群眾的確一直在增加,小說/故事演播、廣播劇改編,是圖文創作者在實體書本、電子書、電視劇、電影以外的的發行型式。在許多國家,因為有聲劇帶起了收聽數,促成電視劇電影爭取改
Thumbnail
如果下輩子到來前可以選擇,你想當男生還是女生? 一直到現在都還存在於這個社會之中,《82 年生的金智英》帶給女性很大的共鳴,也推薦給男性閱讀,讀完能深刻體會到女性面對社會輿論與那些「理所當然」的種種,下次在面對另一半或女性友人、同事時也能多一點的體貼。
Thumbnail
在日本殖民政府有心經營下,臺灣開始有較具規模的出版活動:為便於統治,有各項調查文獻;為推行殖民教育,開始編印各類教科書;為宣揚政績,則有《領臺十年史》、《始政紀念—四十年間的臺灣》等書出版。然而,出版業、書業真的只能成為總督府的魁儡嗎?當新興知識份子開始從事文化啟蒙運動,圖書便由傳播知識的工具,轉變
Thumbnail
「我的朋友們很高興莎士比亞書店還開著」 ——Sylvia Beach 比起Sylvia在戰後親筆寫的散文集《莎士比亞書店》,繪本《席薇亞的書店》更在乎的是,透過房子的自述身世,這間老舊的「房子」,如何在女主人Sylvia席薇亞的巧思之下,蛻變成為一家充滿知識與想像、人文與歡樂的「書店」。
Thumbnail
時光飛梭,2022早已開啟半個月,驚覺還沒在這邊好好回顧我的年度書單!! 分享我的2021年度喜愛十大前,也想說這並沒有名次編排,畢竟每本好書實在很難將他們劃分等級,但都是在這一年中對我具有影響力的書籍。並想在文末新增我的特別提及書單!