SageMaker是什麼?好用嗎?

更新於 2024/05/13閱讀時間約 4 分鐘

一.引言

  先前在中國的工作環境相對封閉,並沒有使用雲端產品進行AI訓練及部屬,只有在本機端進行建置調試,但如今回到台灣了,該是時候接觸一下這些雲端的 AI 服務,而在 AWS 中,深度學習相關的服務鈴瑯滿目,但聽到有人提到 SageMaker ,這次就來看看它是個什麼樣的服務吧。

二.SagaMaker 說明

  Amazon SageMaker 是 AWS 上的機器學習服務,旨在簡化機器學習開發和部署的過程。這項服務通常被認為是易於使用且功能強大,特別適合於多種應用場景:

  1. 全方位服務:SageMaker 支持完整的機器學習流程,從數據準備、模型訓練到部署和監控,提供開箱即用的功能。
  2. 預先配置的環境:可以輕鬆啟動和管理預先配置的 Jupyter Notebook 實例,方便模型開發。
  3. 自動化:自動調參、模型訓練和部署等功能可以減少人工干預,提升效率。
  4. 擴展性:它與 AWS 其他服務無縫集成,支持分布式訓練和自定義算法,易於擴展至不同的計算環境。
  5. 靈活性:支持多種框架,如 TensorFlow、PyTorch 和 MXNet,並允許使用自定義容器運行其他機器學習框架。

  雖然 SageMaker 有很多優點,但可能需要考慮成本問題,以及它的學習曲線。如果你已經熟悉 AWS 生態系統,並且在尋找可以高度自定義的工具,那麼它是很值得考慮的選擇。

三.SageMaker 使用體驗

  詳細的介紹 AWS 上可說是相當完整,我就不再冗言,本篇文章以這篇示例進行實驗,這邊就以我的角度來說說, SageMaker 為我帶來甚麼樣的體驗。
  如同上個段落中說明的,"雖然 SageMaker 有很多優點,但可能需要考慮成本問題,以及需要一定程度上的熟悉 AWS 生態系統",這句話可以說是我這次的體驗總結,為什麼呢?讓我娓娓道來。

  首先環境配置部分,對於環境初始的配置有自動配置的引導,所以沒有遇到問題,不過若是多人共同使用,就要針對每個使用者新建可對應的腳色並分配權限等等,就會相對複雜,再來新建 Notebook 空間及 Jupyter 空間,到這一步就會出現一個問題,在新建 Notebook 實例時便會詢問要新建怎樣的實例,這邊預設為 ml.t3.medium ,但這個實例類型該如何選擇就得根據你的應用去調整,以本次的案例來說,是使用 sagemaker.pytorch 將訓練任務交給指定的 Docker 映像,所以這個 Notebook 實例不用使用等級太高的實例(各種定價可見相關頁面)。

  這裡給一個簡單判斷,一個 ml.t3.medium 提供 2 個虛擬 CPU 和 4 GB 的記憶體,大概可以處理數據集大小在幾百 MB 至數 GB 範圍內的 logistic regression 或小型神經網絡的訓練通常可以在合理時間內完成。

  再來是訓練流程的部分,程式碼大致上與不使用 SageMaker 類似,主要差別就是從本機端硬碟存取換成了從 S3 內存取, 以及訓練時改成以 sagemaker.pytorch 將編寫好的 Train.py 交給指定的映像去訓練,由此可知,若是要將本在本機的程式嗎移植到雲上,銜接上只需要小改即可。

  所以實際體驗下來,SageMaker好用嗎?我想若是你有很多服務都在上面,你需要你的模型與其他 AWS 服務互動,SageMaker確實提供了一個便捷的解決方案,會讓人頭疼的反而是這些 AWS 生態系統中定義的這些名詞及行為,官網中很多名詞隨意拋出,常常搞不太清楚到底要幹嘛,但這就是我尚未熟悉AWS 生態系統的表現,期待再幾篇文章後,我能好好搞清這些東西,再與各位分享分享。

estimator = PyTorch(
entry_point="mnist.py",
role=role,
py_version="py38",
framework_version="1.11.0",
instance_count=2,
instance_type="ml.c5.2xlarge",
hyperparameters={"epochs": 1, "backend": "gloo"},
)
estimator.fit({"training": inputs})

四.結語

  本次照著示例體驗了MNIST手寫辨識的案例,但其示例在很多部分都進行了簡化,所以體驗是順暢的,但很多實際會遇到的問題卻體驗不到,所以下篇打算實際移植先前實作的風格轉換上去呈現更符合實際應用的體驗成果。


avatar-img
8會員
21內容數
AI、電腦視覺、圖像處理、AWS等等持續學習時的學習筆記,也包含一些心得,主要是幫助自己學習,若能同時幫助到不小心來到這裡的人,那也是好事一件 : )
留言0
查看全部
avatar-img
發表第一個留言支持創作者!
貓貓學習筆記 的其他內容
實踐AWS中使用Lambda來負責登入簽核及與OpenAI API溝通,並利用S3容器託管一個靜態網頁做為前端
實踐AWS中使用Lambda來負責登入簽核及與OpenAI API溝通,並利用S3容器託管一個靜態網頁做為前端
你可能也想看
Google News 追蹤
Thumbnail
徵的就是你 🫵 超ㄅㄧㄤˋ 獎品搭配超瞎趴的四大主題,等你踹共啦!還有機會獲得經典的「偉士牌樂高」喔!馬上來參加本次的活動吧!
Thumbnail
隨著理財資訊的普及,越來越多台灣人不再將資產侷限於台股,而是將視野拓展到國際市場。特別是美國市場,其豐富的理財選擇,讓不少人開始思考將資金配置於海外市場的可能性。 然而,要參與美國市場並不只是盲目跟隨標的這麼簡單,而是需要策略和方式,尤其對新手而言,除了選股以外還會遇到語言、開戶流程、Ap
Thumbnail
過去七年多來,我陪著數百位珍貴的生命,一塊在生命的低谷裡奮鬥、崩潰,又見證一個個生命踏上專屬於自己的道路,發出獨特又迷人的光彩,活出那一份獨特的勇氣,去成為真正的自己。 生命力量被大大削弱,是因為沒有掌握生命的運作密碼,我總結了三個核心要點,與你分享!
有個對千禧世代的研究,問他們人生最重要的目標是什麼?超過八成說主要的目標是變得富有,另有五成的說另一個主要的目標是有響亮的名聲;我們被灌輸概念-為了有美好的生活,這些東西是我們需要追求的。 大家做出的選擇以及這些選擇為他們帶來什麼結果幾乎無從得知;我們對人生所知道的絕大部份來自於訴請別人記起過
最近突然意識到兒子真的長大了,開始有小少年的模樣。比起來參與活動的一年級小男孩們,兒子的臉上已明顯不見稚嫩。
Thumbnail
2024春夏高級訂製服系列時裝周模特兒名單中,台灣模特兒再添一位,那便是過去主要據點為米蘭的張雨宸YuChen Chang。
Thumbnail
當情緒難以消化的時候,堵在心口的鬱結實在難以安放呀!此時的你,也曾經找人聊聊天、抒發自己的感受嗎?你心中有浮現適合的人選嗎?為什麼會想到這個人,而不是另一個人呢?伴侶分享了一個與傾訴相關的想法:「我願意說是因為我相信你,而且我也覺得被承接住了」。
Thumbnail
Amazon SageMaker Canvas 是一項無須程式碼機器學習 (ML) 服務,可以幫助商業分析師透過機器學習(ML)在幾分鐘內從數千個文件、圖像和文字行中產生見解。 可以隨時存取即用型模型,建立自訂文字和圖像分類模型以及先前支援的表格資料自訂模型,所有這些操作都無需具備機器學習經驗,也無
Thumbnail
前幾個禮拜,AWS 舉行 Startup Day Taiwan。想當然爾,最熱門的主題非生成式 AI (Generative AI) 莫屬。既然 AWS 有現成的工具,身為一名工程師,自然看看無妨,這篇文章算是新手開箱文,會說明如何部署一套基礎模型,並使用 AWS SDK 與其互動。
Thumbnail
前言 我在工作中沒有什麼機會接觸到機器學習,學生時期也沒有學習過相關知識。 作為一個業餘小白,我對機器學習非常感興趣。在自學的過程中,我逐漸意識到利用機器學習可以做很多有趣的事情。 因此,我決定嘗試使用 AWS SageMaker JumpStart 來實驗文字生成式繪圖 AI ,以了解機
Thumbnail
「這世上的女人從未意識到她們擁有的力量....我下一次再墜入愛河時,我 會張大眼睛做出聰明的選擇。我會先確定那個女孩愛我比我愛她多一些。 」西羅是在乎的,她從沒有給過他的暗戀相對的回應,可是,親眼看見她跟神父「在一起」,西羅心碎了,未來幾年都還是會隱隱作痛.....
Thumbnail
徵的就是你 🫵 超ㄅㄧㄤˋ 獎品搭配超瞎趴的四大主題,等你踹共啦!還有機會獲得經典的「偉士牌樂高」喔!馬上來參加本次的活動吧!
Thumbnail
隨著理財資訊的普及,越來越多台灣人不再將資產侷限於台股,而是將視野拓展到國際市場。特別是美國市場,其豐富的理財選擇,讓不少人開始思考將資金配置於海外市場的可能性。 然而,要參與美國市場並不只是盲目跟隨標的這麼簡單,而是需要策略和方式,尤其對新手而言,除了選股以外還會遇到語言、開戶流程、Ap
Thumbnail
過去七年多來,我陪著數百位珍貴的生命,一塊在生命的低谷裡奮鬥、崩潰,又見證一個個生命踏上專屬於自己的道路,發出獨特又迷人的光彩,活出那一份獨特的勇氣,去成為真正的自己。 生命力量被大大削弱,是因為沒有掌握生命的運作密碼,我總結了三個核心要點,與你分享!
有個對千禧世代的研究,問他們人生最重要的目標是什麼?超過八成說主要的目標是變得富有,另有五成的說另一個主要的目標是有響亮的名聲;我們被灌輸概念-為了有美好的生活,這些東西是我們需要追求的。 大家做出的選擇以及這些選擇為他們帶來什麼結果幾乎無從得知;我們對人生所知道的絕大部份來自於訴請別人記起過
最近突然意識到兒子真的長大了,開始有小少年的模樣。比起來參與活動的一年級小男孩們,兒子的臉上已明顯不見稚嫩。
Thumbnail
2024春夏高級訂製服系列時裝周模特兒名單中,台灣模特兒再添一位,那便是過去主要據點為米蘭的張雨宸YuChen Chang。
Thumbnail
當情緒難以消化的時候,堵在心口的鬱結實在難以安放呀!此時的你,也曾經找人聊聊天、抒發自己的感受嗎?你心中有浮現適合的人選嗎?為什麼會想到這個人,而不是另一個人呢?伴侶分享了一個與傾訴相關的想法:「我願意說是因為我相信你,而且我也覺得被承接住了」。
Thumbnail
Amazon SageMaker Canvas 是一項無須程式碼機器學習 (ML) 服務,可以幫助商業分析師透過機器學習(ML)在幾分鐘內從數千個文件、圖像和文字行中產生見解。 可以隨時存取即用型模型,建立自訂文字和圖像分類模型以及先前支援的表格資料自訂模型,所有這些操作都無需具備機器學習經驗,也無
Thumbnail
前幾個禮拜,AWS 舉行 Startup Day Taiwan。想當然爾,最熱門的主題非生成式 AI (Generative AI) 莫屬。既然 AWS 有現成的工具,身為一名工程師,自然看看無妨,這篇文章算是新手開箱文,會說明如何部署一套基礎模型,並使用 AWS SDK 與其互動。
Thumbnail
前言 我在工作中沒有什麼機會接觸到機器學習,學生時期也沒有學習過相關知識。 作為一個業餘小白,我對機器學習非常感興趣。在自學的過程中,我逐漸意識到利用機器學習可以做很多有趣的事情。 因此,我決定嘗試使用 AWS SageMaker JumpStart 來實驗文字生成式繪圖 AI ,以了解機
Thumbnail
「這世上的女人從未意識到她們擁有的力量....我下一次再墜入愛河時,我 會張大眼睛做出聰明的選擇。我會先確定那個女孩愛我比我愛她多一些。 」西羅是在乎的,她從沒有給過他的暗戀相對的回應,可是,親眼看見她跟神父「在一起」,西羅心碎了,未來幾年都還是會隱隱作痛.....