有一天在公司分享AI要如何在企業應用上的實踐和方向，主要是近來，LLM和AI相關技術備受關注，無論是新創公司還是大型原廠，都大力發展AI。然而，對企業而言，AI真正落地的速度並沒有外界想像中那麼快。撇開資安議題不談，單是投入AI所需的成本與實際效益提升，對IT部門而言，評估起來就相當困難，尤其是在企業內部的實際應用層面。尤其是生成式AI，現在幾乎所有議題都會與LLM扯上關係，但其實並非所有問題都適合用這個AI解決方案。
首先，我們要知道什麼是Generative AI的本質，也就是生成式人工智慧。生成式AI是人工智慧的一個分支，透過學習大量資料和語言模式，能夠創造出全新的內容，例如文字、圖片或程式碼等。它的核心重點在於「生成」或「創新」內容。Generative AI多半是基於所謂的大型語言模型，常見的如GPT-4、DeepSeek等。這些模型經軟體包裝後，使用者可以透過輸入文字、語音或照片等方式，讓AI生成對應的內容。不論是溝通還是操作，這個過程我們稱為提示工程。此外，RAG的模式，則讓語言模型可以取得和學習企業內部的知識，以解決更貼近實際需求的問題，但本質還是LLM的輸出
過去幾年，生成式人工智慧的應用呈現爆炸性成長，其實許多是首次真正體驗到AI的強大，也可以說AI應用到終端介面。因此，很多人常將生成式人工智慧與AI劃上等號。但如剛才所提，Generative AI其實只是AI領域中的一小部分。廣義來說，AI涵蓋眾多技術與應用，像我們過去熟悉的機器學習也是其中之一。傳統常常談的人工智慧（如機器學習）通常聚焦於識別、預測和分類等任務，而生成式人工智慧的特點則在於能夠自動創造新的內容。因此，我從Gartner的資料進行研究，其實並非所有問題都能透過LLM來解決。正如下圖所示，在不同情境下，我們應該根據實際需求選擇合適的AI技術。結合多種AI工具或BI解決方案，才是滿足企業需求的最佳選擇。但多數企業都認為投資LLM就是邁向AI之路，也可以透過這方案使用AI解決很多問題，也因此變成投資成本高，但經濟效益並不顯著
在LLM中，我們都知道其數學和統計結果並非絕對正確。如果需要絕對精確或正確的結果，就不應直接依賴LLM答案做最終決策。換句話說生成式AI並非萬能，它仍有不少限制，首先，有三個主要問題值得特別注意：
不準確與「幻覺」：目前生成式AI最大的挑戰之一，是可能產生不準確的數據，甚至出現所謂的「幻覺內容」，也就是看似合理但其實完全錯誤的資訊。
非AI解決方案的優勢：在某些情境下，傳統非AI的方案反而更有效率、更可靠，也更容易解釋，這是生成式AI無法取代的地方。
智慧財產權風險：使用AI生成內容進行創作或引用時，必須特別留意版權和智慧財產權，避免產生法律風險。
此外，還有幾點需要注意：
- 敏感資料風險：使用生成式AI時，可能導致敏感資料外洩的問題。
- 過度依賴風險：如果過度依賴生成式AI，可能會影響我們對關鍵決策的判斷力。
- 偏見問題：語言模型可能因訓練數據帶有固有偏見，導致輸出有歧視或偏頗。
- 缺陷輸出：某些大型語言模型在特定情境下，仍可能產生不合適或有缺陷的內容。
因此，了解LLM的限制後，我們在評估情境時，應根據實際需求選擇合適的AI解決方案，而不是盲目地將所有問題都交由LLM處理。這才是正確的應用方向。這樣的風險如我前一篇 組織投資Github Copilot 的效益與風險內也有提到一些
無論是採用生成式AI或其他AI解決方案，多數企業往往忽略了「成為AI Ready需專注於基礎數據」這一點。事實上，AI的成功更取決於高品質的訓練／輸入資料，而非一味調整模型或程式碼。完善的資料準備至關重要，雖然這個過程具有挑戰性，且可能需要長時間和人力準備，但卻不可或缺。不過多數企業都會忽略這一段，其原因在於這部分的處理流程是一種成本，但又很能被看到的績效，也因此，即使擁有最出色的演算法，如果缺乏充足、多元且經過驗證的數據，最終的AI表現仍將大打折扣。
舉例來說：
- 異常檢測：往往受到高品質標註資料不足的限制，容易出現偽偵測等問題，尤其在數據不平衡時更具挑戰性。
- 預測分析：常因資料量不足而受到影響，多數以歷史資料為主，但這並不一定能反映新的趨勢。
當企業邁向AI Ready階段，資料的準確性和完整性顯得格外重要。上述案例也說明了，資料品質會直接影響AI模型的表現和實用性，因此絕不能忽視對數據的重視與準備工作。
2025年，AI Agent將迎來高速發展，市場上各種相關產品層出不窮。這使許多企業擔心在AI時代會被淘汰。然而，企業真的已經做好導入AI Agent的準備了嗎？目前，大部分企業的資訊系統仍相對老舊且穩定度不足，即使引進MCP架構，也未必能完全駕馭AI Agent帶來的挑戰，最後也可能是小小的試驗。
因此，在思考AI應用於提升企業競爭力或是生產力時，可以將AI的發展分為三個階段，在企業慢慢導入，我認為這跟數位轉型步驟很類似：
階段一：人工智慧作為工具
這是企業導入AI的起步階段。企業應先將AI視為輔助工具，學習如何善用AI來提升工作效率，並實現業務目標。重點在於熟悉AI的功能，將它融入日常工作流程。
階段二：人工智慧作為代理
當企業累積一定AI應用經驗後，AI將不再只是工具，而能夠主動提供服務，配合業務需求產生精確的資訊，成為決策和流程中的重要參與者。
階段三：人工智慧成為影響者
在這個最成熟的階段，AI會成為企業運作不可或缺的關鍵力量。人與AI將深度融合，員工的工作歷程也會因為AI與人協作而被重新定義，混合型工作模式將成為常態。
這三大階段，從AI作為工具、代理到最終成為影響者，描繪出企業逐步導入AI並發揮其最大價值的成長路徑。因此，在迎接AI Agent時代之前，企業應先審慎評估自身數位生態與基礎架構的成熟度，避免盲目跟風，確保AI真正為企業帶來效益與轉型動能。
姑且不論AI是否會取代人的職位，至少在未來幾年內，我認為這種情況還不太可能發生。目前，AI更像是我們的智慧助理，協助提升工作效率、解決問題。現階段，AI的角色主要是與人類協作，攜手打造更優質的工作環境。
至於未來如何發展，誰也說不準。AI技術持續快速演變，市場變化只會越來越迅速、挑戰也會更加嚴峻。在這樣的趨勢下，AI與人類協同工作的共生模式，或許會成為因應變革的最佳策略。
