Apple Machine Learning Framework - MLX

更新 發佈閱讀 1 分鐘

最近 Apple 為自家晶片推出一項機器學習的框架,稱做「MLX」。

雖然說是新框架,但其中還是跟 NumPy, PyTorch, Jax 和 ArrayFire 相似,但最大的不同在於因為是 Apple 自行設計,在 M 系列晶片的「統一記憶體」上能直接計算資料。

在 GitHub 上,官方主要提出以下主要功能:

  1. API:用法非常類似於 NumPy 與 PyTorch,也同時有齊全的 C++ API,因此可以用簡單的語法建立複雜的模型。
  2. 可組合函數轉換:能自動在微分、轉換向量、算圖上自動最佳化函數。
  3. 動態圖像建構:MLX 會自動動態 Build,但更改參數時也不會讓 Build 變慢,可讓 Debug 時更簡單。
  4. 支援多裝置:可以在任何支援的裝置上執行,目前有 CPU 和 GPU。
  5. 統一記憶體:正如前面提到的,MLX 陣列是存在共享記憶體,因此不用在多個記憶體裝置上移動資料。

在 GitHub 上,官方也提供簡單的範例,可讓開發者測試。連結

包含:

  1. Transformer language model
  2. Meta 的 LLaMA 以及經過 fine-tuning 的 LoRA
  3. Stable Diffusion
  4. OpenAI 的 Whisper
留言
avatar-img
留言分享你的想法!
avatar-img
爆肝型工程師轉職之路
3會員
3內容數
@@
你可能也想看
Thumbnail
不是每個人都適合自己操盤,懂得利用「專業」,才是績效拉開差距的開始
Thumbnail
不是每個人都適合自己操盤,懂得利用「專業」,才是績效拉開差距的開始
Thumbnail
年末總有一種莫名的魔力,讓人特別容易感到孤單。 聖誕節、跨年、緊接著農曆新年……滑開社群,不是甜蜜放閃,就是一群人早早訂好跨年行程。 明明日子算得上順遂,工作穩定無憂,生活也按部就班地往前走着,可總在萬籟俱寂的夜晚,獨自對着空蕩的房間時,心底會悄悄冒出一個念頭:今年,是不是可以不一樣?不再獨自抵
Thumbnail
年末總有一種莫名的魔力,讓人特別容易感到孤單。 聖誕節、跨年、緊接著農曆新年……滑開社群,不是甜蜜放閃,就是一群人早早訂好跨年行程。 明明日子算得上順遂,工作穩定無憂,生活也按部就班地往前走着,可總在萬籟俱寂的夜晚,獨自對着空蕩的房間時,心底會悄悄冒出一個念頭:今年,是不是可以不一樣?不再獨自抵
Thumbnail
PyTorch 是一個開源的 Python 機器學習庫,基於 Torch 庫,底層由 C++ 實現,應用於人工智慧領域,如電腦視覺和自然語言處理等。 PyTorch 2.4 引入了多項新功能和改進,包括支援 Python 3.12、AOTInductor 凍結功能、新的高階 Python 自訂運算
Thumbnail
PyTorch 是一個開源的 Python 機器學習庫,基於 Torch 庫,底層由 C++ 實現,應用於人工智慧領域,如電腦視覺和自然語言處理等。 PyTorch 2.4 引入了多項新功能和改進,包括支援 Python 3.12、AOTInductor 凍結功能、新的高階 Python 自訂運算
Thumbnail
Apple 劃時代新作 Apple Vision Pro 終於都在香港正式發售。作為一個科技迷,當然立即預約試用。而經過半小時的試用,我會說 Apple Vision Pro 是一個可以連接過去與未來、開創新時代的產品。以下是我試用完幾個重點功能的感受,以及一些注意事項。
Thumbnail
Apple 劃時代新作 Apple Vision Pro 終於都在香港正式發售。作為一個科技迷,當然立即預約試用。而經過半小時的試用,我會說 Apple Vision Pro 是一個可以連接過去與未來、開創新時代的產品。以下是我試用完幾個重點功能的感受,以及一些注意事項。
Thumbnail
蘋果商品策略背後的商業價值是本文的關鍵,透過對 AI 裝置端執行、不同於其他競爭對手的佈局和對自身生成式 AI 架構的深度整合。鼓勵讀者不僅要知道怎麼做(know-how),還要了解為什麼這樣做(know-why),不斷挑戰現況。
Thumbnail
蘋果商品策略背後的商業價值是本文的關鍵,透過對 AI 裝置端執行、不同於其他競爭對手的佈局和對自身生成式 AI 架構的深度整合。鼓勵讀者不僅要知道怎麼做(know-how),還要了解為什麼這樣做(know-why),不斷挑戰現況。
Thumbnail
Apple 最新的系統系列,在今天台灣時間 11 日凌晨正式亮相了,只能說這波 AI 操作真的有點厲害啊。
Thumbnail
Apple 最新的系統系列,在今天台灣時間 11 日凌晨正式亮相了,只能說這波 AI 操作真的有點厲害啊。
Thumbnail
當然以微軟的角度來說,將AI PC限縮成Copilot+ PC有利於將Copliot = AI的話語權綁在自己身上,畢竟其認定最大對手蘋果也開始使用AI PC一詞,與其在同個領域搶話語權,不如把重心移到自家的Copilot上,所以這次微軟也發表了一系列Copilot的功能
Thumbnail
當然以微軟的角度來說,將AI PC限縮成Copilot+ PC有利於將Copliot = AI的話語權綁在自己身上,畢竟其認定最大對手蘋果也開始使用AI PC一詞,與其在同個領域搶話語權,不如把重心移到自家的Copilot上,所以這次微軟也發表了一系列Copilot的功能
Thumbnail
AI PC 硬體 + AI OS + AI PC 摘要
Thumbnail
AI PC 硬體 + AI OS + AI PC 摘要
Thumbnail
筆記-股癌-24.05.22 *認養狗可以聯絡Liza的IG。 *微軟AI PC: - 售價1000歐元起的AI PC,6/18推出,晶片NPU算力在40 TOPS以上, - 裝置有連動GPT-4o,這部分的功能還是要連上網;Copilot功能下放到邊緣端。 - recall功能,可以把螢
Thumbnail
筆記-股癌-24.05.22 *認養狗可以聯絡Liza的IG。 *微軟AI PC: - 售價1000歐元起的AI PC,6/18推出,晶片NPU算力在40 TOPS以上, - 裝置有連動GPT-4o,這部分的功能還是要連上網;Copilot功能下放到邊緣端。 - recall功能,可以把螢
Thumbnail
本文章探討了多智能體系統(MAS)在生成式AI領域中的應用,以及GenAI對於AI_MCU和Software defined hardware的影響。文章還總結了SDH設計模式對數據科學和人工智能時代的影響,並提供了有關GenAI的一些額外信息。
Thumbnail
本文章探討了多智能體系統(MAS)在生成式AI領域中的應用,以及GenAI對於AI_MCU和Software defined hardware的影響。文章還總結了SDH設計模式對數據科學和人工智能時代的影響,並提供了有關GenAI的一些額外信息。
Thumbnail
*從Embedded World看到,AI在工業領域的發展,會比原本預期再慢一點。 *目前在消費端、服務端,例如顧問業者、客服、buy now pay later等業務,有很多AI功能、LLM模型導入。 --初階的碼農容易被AI取代。 *工業端,最早是PLC編程,到IPC,未來在IPC裡面 會
Thumbnail
*從Embedded World看到,AI在工業領域的發展,會比原本預期再慢一點。 *目前在消費端、服務端,例如顧問業者、客服、buy now pay later等業務,有很多AI功能、LLM模型導入。 --初階的碼農容易被AI取代。 *工業端,最早是PLC編程,到IPC,未來在IPC裡面 會
Thumbnail
最近 Apple 為自家晶片推出一項機器學習的框架,稱做「MLX」。API 跟 NumPy, PyTorch, Jax 和 ArrayFire 相似,但最大的不同在於因為是 Apple 自行設計,在 M 系列晶片的「統一記憶體」上能直接計算資料。
Thumbnail
最近 Apple 為自家晶片推出一項機器學習的框架,稱做「MLX」。API 跟 NumPy, PyTorch, Jax 和 ArrayFire 相似,但最大的不同在於因為是 Apple 自行設計,在 M 系列晶片的「統一記憶體」上能直接計算資料。
追蹤感興趣的內容從 Google News 追蹤更多 vocus 的最新精選內容追蹤 Google News