上週(2026/01/22)筆者很榮幸，受到 HPE 的邀請，參加了今年的第一場與 AI 議題相關的研討會。邀請人 Andy 一開始邀約時，就非常客氣的問著說：小哥抱歉呀，這課程有點硬，如果上起來有壓力，千萬別K我。開玩笑，筆者我是這種害怕挑戰的人嗎？再說，Andy 大大說這次可是可以實機操作 Nvidia RTX PRO 6000，再怎麼樣也要想辦法去參加，於是 1/22當天，我這個平常過著四季如夏氣候的南部人，頂著10度冷氣團報到外加飄著小雨的日子，隻身北上參加這次的研討會。
HPE Compute AI：驅動人工智慧新時代
首先登場的課程，是由 HPE AI 相關團隊的技術顧問，講解 HPE AI 伺服器的產品特性與適用場域；不論您是準備從零開始自建模型、或是拿現有的開源模型針對自己的企業特性進行模型優化、之後在生產現場部屬任務型AI，HPE 都有適合的產品可供選擇。
齊全的AI伺服器產品線
尤其是有個系列，讓筆者我非常欣賞，就是 HPE DL380a Gen12 這個產品，如果企業一開始只是打算作前期研究、亦或是讓RD團隊進行小規模的開發測試，這台 AI 伺服器對於環境要求與一般 x86 伺服器差異不大，一般氣冷機房就可以工作了。在基礎的配置下(兩張RTX PRO 6000)，能源消耗最多2000多瓦(實際狀況依運用場景而異)，因此不需要對於現有的機房環境大興土木，就可以邁入 AI 開發的領域。對於目前大環境能源吃緊的狀況，以及寸土寸金的辦公空間來說，HPE DL380a Gen12 這產品，對企業來說，的確是很好的 AI 入門敲門磚。
讓筆者相當心動的一款產品：HPE DL380a Gen12
Agentic AI：重塑企業營運模式
接下來的場次，邀請到 Nvidia 的技術顧問，請他以技術的觀點，描述 NVIDIA 如何以 Agentic AI 帶領企業轉型，展示Agentic AI 如何重塑企業營運模式。或許有些朋友還不是很清楚 Agentic AI 會對企業帶來什麼樣的改變，就容筆者自己在製造業的經驗，簡單描述一下 Agentic AI ，將對未來的製造業帶來什麼樣的想像。您可以把 Agentic AI 想像成一位24 小時不休息、且擁有全公司知識的「數位領班」。它具備三個核心能力：
- 自主推理（Reasoning）： 它不只會回報問題，還會思考「為什麼會發生」以及「如何解決」。
- 工具調用（Taking Action）： 它能直接與您的 ERP、MES、CRM 系統連動，而不僅僅是停留在聊天對話框裡。
- 自我修正（Self-Correction）： 如果路徑 A 走不通，它會嘗試路徑 B，直到達成任務。
代理式AI，企業專屬的數位領班
換個角度來看，Agentic AI 是製造業邁向「自主工廠」的最後一哩路。在製造業的未來，Agentic AI 不僅僅是效率工具，更是企業知識的「活體容器」；當這位「數位領班」深入生產一線，製造業將從「自動化」跨越到「自主化（Autonomy）」：
- 從被動維修轉向預測性決策： 系統不再等設備壞了才報警，而是自主調度維修人力並預購零件。
- 消除資訊孤島： 透過跨系統的工具調用，Agentic AI 將打破生產、採購、銷售之間的隔閡，實現真正的彈性生產。
- 傳承經驗： 它將資深師傅的「直覺」轉化為可推理的邏輯，確保工廠在面對突發狀況時，始終能以最優路徑運行。
透過 Agentic AI，製造業將從「自動化」跨越到「自主化」
快速上手-打造企業不可取代的 Agentic AI
到了下午，也就是今天課程的重點-實作工作坊(Hands-On Lab)。這個課程一樣也是由 Nvidia 原廠講師主講，而且這位講師的資歷也相當不簡單，是AI架構領域的資深工程師。課程一開始，講師強調接下來的時段，會相當的硬核(hardcore)，想休息、伸展身體的，請隨意；因為課程一旦開始，會一鼓作氣的從建立工作環境、從 github 上下載原始碼、調整參數符合現有架構、部屬容器、最後在地端運行屬於自己的落地AI，整個過程一氣呵成。真的是沒在開玩笑的！
首先，講師先介紹 build.nvidia.com 這個網站，這個是由 Nvidia 提供，供所有對於 AI 技術有興趣的朋友，讓您不需要自己準備昂貴的 H100 伺服器，就能直接在瀏覽器上測試、調用當今最強大的 AI 模型(如Llama 3、Mistral、Nemotron等)，並將這些模型快速整合到您自己的實際環境中。
build.nvidia.com
而本次要實作的範例，就是將 build.nvidia.com 這個網站裡 NVIDIA Blueprints 這個分類下的其中一個範例「Build an Enterprise RAG Pipeline」。這個範例 Nvidia 已經完全開源，已註冊的會員可以隨時從 Github 下載範例，並依據範例的操作，建立屬於自己的 RAG 工作環境。
Build an Enterprise RAG Pipeline Blueprint
NVIDIA RAG Blueprint on Github
挑戰 180 分鐘從0到1！
本次 HPE 實作課程帶領學員深入地端環境的真實戰場。相較於雲端，地端環境更考驗對資源調度與多用戶分配的掌握力。學員們需下載範例並親手改寫代碼，從建立環境、參數調整到容器部署，每一個步驟都是實力的磨練。雖然時限緊迫、過程充滿挑戰，但在講師的熱心帶領下，大家紛紛突破難關，成功讓應用程式在地端環境完美運行！
實作環境容器套件成功運作
後記
感謝 HPE 的邀請，讓筆者能受邀參加本次的研討會活動。多數的研討會，因為時間與環境的限制，只能單純的聽講。而這次不但禮聘了 Nvidia 原廠講師到場，以官方的角度向學員們解說目前最新的 AI 趨勢與發展方向，解說官方資源的使用方式，更提供了平常無法輕易接觸實體設備讓與會者親手操作。這些都是難能可貴的寶貴體驗。希望日後還有機會，HPE 可以再舉辦類似的活動，讓大家可以更進一步的了解 HPE 在 AI 方向的布局，讓企業可以依據發展的需要，選擇合適的技術與產品，幫助企業在這隨時都在創新與演變的商場環境下，維持企業的競爭力。
