【AI 人工智慧】模型可解釋性
更新於 發佈於 閱讀時間約 2 分鐘
儘管深度學習這陣子非常的成功，效果也非常的好， 但每次提到它美中不足的地方時，可解釋性總是被拿來評論一番。今天，我們來針對模型的”可解釋性”這樣一個議題做深入的討論。
所謂的「可解釋性」，就是當人工智慧演算法做決策的時候，我們是否能夠清楚了解為什麼電腦會做這樣一個決策以及判斷。如果我們可以很清楚的說出電腦判斷的邏輯，那麼我們就說這個演算法的可解釋性很高，反之，如果電腦做決策時，我們只得到一個結果，但對於產生這樣結果的過程我們無從理解，那麼這樣一個演算法的可解釋性就偏低。
那為什麼可解釋性高對於一個模型來說是一個優點呢？因為很多時候，我們除了希望電腦能幫我們做準確的預測外，我們也希望能了解模型究竟從數據裡學到了哪些知識！如果能掌握這些，或許我們對於模型的掌控度就比較高，同時，也可以從中去改良及創新現有的想法。
我們都知道，深度學習（又或者稱作類神經網路）可以透過多層神經網路的建構來達到高度擬合複雜的數據集，但對於內部運算的邏輯，往往很難轉換成人類易於理解的形式。儘管深度學習給出來的結果可能不差，但它就如同一個黑盒子，我們並不知道裡面發生了什麼事情，這就如同我們跟老闆呈獻了一個專案報告，但是我們卻無法解釋報告上面的數字是如何計算出來的！身為老闆們，是不是會對這些結果心存懷疑呢？
因此，在某些情況下，傳統的機器學習就會比較受到青睞，例如決策樹（*）這類型的方法就是其中一個例子。在許多金融風控領域裡面，由於可解釋性低意味著更多不確定的風險， 為了精準計算最大可能的損失以及相對應的收益，他們需要非常了解機器在每個環節是如何做決策的，這時候深度學習模型可能就不那麼適合了！
總之，不同的模型會有不同的優缺點，為了滿足各式各樣類型的需求以及限制，我們也必須隨時做出不同演算法的調整及優化阿！
- 決策樹是機器學習裡面一種基於樹狀所產生的演算法，其可解釋性非常的高
＊本文由知名AI講師-Isaac Lee 李厚均所撰寫 文章轉載自我們共同經營的粉絲頁-小李談數智https://www.facebook.com/isaac60103
更多圖解內容可以到 耀西圖像視覺化教室看看https://www.facebook.com/YoshiGraphics
為什麼會看到廣告
11會員
33內容數
留言0
查看全部
你可能也想看
Google News 追蹤
嘿，大家新年快樂~ 新年大家都在做什麼呢？
跨年夜的我趕工製作某個外包設計案，在工作告一段落時趕上倒數。
然後和兩個小孩過了一個忙亂的元旦。在深夜時刻，看到朋友傳來的解籤網站，興致勃勃熬夜體驗了一下，覺得非常好玩，或許有人玩過了，但還是想寫上來分享紀錄一下~
AI發展未遇天花板，算力與推理模型成長驅動未來突破
b. 文章重點摘要:
隨著人工智慧生態系統的成熟，AI模型需要更聰明的推理能力。OpenAI的o1模型以較小參數規模和更多資料量實現更高效推論。
黃仁勳指出，延長模型思考時間能提升回答品質，而提高算力則能加速生成高品質答案。
AI的成長遵循
🌟 決策樹：理論與應用全面指南 🌟
📋 目錄
🔍 決策樹概述
💡 決策樹的核心概念
🛠️ 建構決策樹的流程
📊 決策樹的種類與應用範疇
📈 決策樹的數據處理步驟
🎯 決策樹的優勢與挑戰
⚙️ 決策樹實作範例
🤔 決策樹與其他機器學習模型比較
📚 決策樹的延
🔓 破解AI模型的“黑盒”評估難題！
AI模型的高效能和複雜性經常以「黑盒」模式為代價，讓模型的內部運作變得不透明，給模型評估和業務應用帶來了巨大挑戰。然而，隨著解釋性技術和流程的進步，破解這一難題不再是遙不可及的夢想。本文將從理論框架、實踐策略和工具方法三方面入手，全面解析如何破解AI模型的「
學習生成式AI，不僅僅是掌握幾個工具，而是從全方位了解AI的發展範疇及其潛力。我經常在企業教授AI課程時，會遇到HR詢問：某些工具用不上，可以不教嗎？當然可以，但如果同仁不了解生成式AI在「數位內容」上的廣泛應用，又如何掌握大語言模型的發展邊界？
AI的世界充滿了創新和潛力，涵蓋了許多領域，包括但不限於機器學習，自然語言處理、電腦視覺和機器人技術。AI對人類社會的影響是複雜而多層面的，既帶來了巨大的機遇，也提出了新的挑戰。社會需要在技術發展和倫理規範之間找到平衡，確保AI技術的應用能夠真正造福人類。
在人工智能的發展歷程中，早期的研究主要側重於將解決問題的規則輸入計算機，試圖通過啟蒙運動理性的思路模擬人類的智能行為。然而，這條路逐漸變得艱難，因為規則過於繁多，無法應對複雜的情境和語境。在這個背景下，一些科學家轉向了神經網絡算法，試圖模擬人腦的感知能力。
大語言模型能夠生成文本，因此被認為是生成式人工智慧的一種形式。
人工智慧的學科任務，是製作機器，使其能執行需要人類智慧才能執行的任務，例如理解語言，便是模式，做出決策。
除了大語言模型，人工智慧也包含了深度學習以及機器學習。
機器學習的學科任務，是透過演算法來實踐AI。
特別
嘿，大家新年快樂~ 新年大家都在做什麼呢？
跨年夜的我趕工製作某個外包設計案，在工作告一段落時趕上倒數。
然後和兩個小孩過了一個忙亂的元旦。在深夜時刻，看到朋友傳來的解籤網站，興致勃勃熬夜體驗了一下，覺得非常好玩，或許有人玩過了，但還是想寫上來分享紀錄一下~
AI發展未遇天花板，算力與推理模型成長驅動未來突破
b. 文章重點摘要:
隨著人工智慧生態系統的成熟，AI模型需要更聰明的推理能力。OpenAI的o1模型以較小參數規模和更多資料量實現更高效推論。
黃仁勳指出，延長模型思考時間能提升回答品質，而提高算力則能加速生成高品質答案。
AI的成長遵循
🌟 決策樹：理論與應用全面指南 🌟
📋 目錄
🔍 決策樹概述
💡 決策樹的核心概念
🛠️ 建構決策樹的流程
📊 決策樹的種類與應用範疇
📈 決策樹的數據處理步驟
🎯 決策樹的優勢與挑戰
⚙️ 決策樹實作範例
🤔 決策樹與其他機器學習模型比較
📚 決策樹的延
🔓 破解AI模型的“黑盒”評估難題！
AI模型的高效能和複雜性經常以「黑盒」模式為代價，讓模型的內部運作變得不透明，給模型評估和業務應用帶來了巨大挑戰。然而，隨著解釋性技術和流程的進步，破解這一難題不再是遙不可及的夢想。本文將從理論框架、實踐策略和工具方法三方面入手，全面解析如何破解AI模型的「
學習生成式AI，不僅僅是掌握幾個工具，而是從全方位了解AI的發展範疇及其潛力。我經常在企業教授AI課程時，會遇到HR詢問：某些工具用不上，可以不教嗎？當然可以，但如果同仁不了解生成式AI在「數位內容」上的廣泛應用，又如何掌握大語言模型的發展邊界？
AI的世界充滿了創新和潛力，涵蓋了許多領域，包括但不限於機器學習，自然語言處理、電腦視覺和機器人技術。AI對人類社會的影響是複雜而多層面的，既帶來了巨大的機遇，也提出了新的挑戰。社會需要在技術發展和倫理規範之間找到平衡，確保AI技術的應用能夠真正造福人類。
在人工智能的發展歷程中，早期的研究主要側重於將解決問題的規則輸入計算機，試圖通過啟蒙運動理性的思路模擬人類的智能行為。然而，這條路逐漸變得艱難，因為規則過於繁多，無法應對複雜的情境和語境。在這個背景下，一些科學家轉向了神經網絡算法，試圖模擬人腦的感知能力。
大語言模型能夠生成文本，因此被認為是生成式人工智慧的一種形式。
人工智慧的學科任務，是製作機器，使其能執行需要人類智慧才能執行的任務，例如理解語言，便是模式，做出決策。
除了大語言模型，人工智慧也包含了深度學習以及機器學習。
機器學習的學科任務，是透過演算法來實踐AI。
特別