【AI 人工智慧】模型可解釋性
閱讀時間約 2 分鐘
儘管深度學習這陣子非常的成功，效果也非常的好， 但每次提到它美中不足的地方時，可解釋性總是被拿來評論一番。今天，我們來針對模型的”可解釋性”這樣一個議題做深入的討論。
所謂的「可解釋性」，就是當人工智慧演算法做決策的時候，我們是否能夠清楚了解為什麼電腦會做這樣一個決策以及判斷。如果我們可以很清楚的說出電腦判斷的邏輯，那麼我們就說這個演算法的可解釋性很高，反之，如果電腦做決策時，我們只得到一個結果，但對於產生這樣結果的過程我們無從理解，那麼這樣一個演算法的可解釋性就偏低。
那為什麼可解釋性高對於一個模型來說是一個優點呢？因為很多時候，我們除了希望電腦能幫我們做準確的預測外，我們也希望能了解模型究竟從數據裡學到了哪些知識！如果能掌握這些，或許我們對於模型的掌控度就比較高，同時，也可以從中去改良及創新現有的想法。
我們都知道，深度學習（又或者稱作類神經網路）可以透過多層神經網路的建構來達到高度擬合複雜的數據集，但對於內部運算的邏輯，往往很難轉換成人類易於理解的形式。儘管深度學習給出來的結果可能不差，但它就如同一個黑盒子，我們並不知道裡面發生了什麼事情，這就如同我們跟老闆呈獻了一個專案報告，但是我們卻無法解釋報告上面的數字是如何計算出來的！身為老闆們，是不是會對這些結果心存懷疑呢？
因此，在某些情況下，傳統的機器學習就會比較受到青睞，例如決策樹（*）這類型的方法就是其中一個例子。在許多金融風控領域裡面，由於可解釋性低意味著更多不確定的風險， 為了精準計算最大可能的損失以及相對應的收益，他們需要非常了解機器在每個環節是如何做決策的，這時候深度學習模型可能就不那麼適合了！
總之，不同的模型會有不同的優缺點，為了滿足各式各樣類型的需求以及限制，我們也必須隨時做出不同演算法的調整及優化阿！
- 決策樹是機器學習裡面一種基於樹狀所產生的演算法，其可解釋性非常的高
＊本文由知名AI講師-Isaac Lee 李厚均所撰寫 文章轉載自我們共同經營的粉絲頁-小李談數智https://www.facebook.com/isaac60103
更多圖解內容可以到 耀西圖像視覺化教室看看https://www.facebook.com/YoshiGraphics
為什麼會看到廣告
11會員
33內容數
留言0
查看全部
Liao Yoshi的沙龍 的其他內容
你可能也想看
AI人工智慧最新消息：從野生動物保護到醫療和農業的創新突破AI人工智慧不斷改變我們的世界，文章講述包含透過AI科技監控系統，追蹤鐵軌附近的大象活動，防止因火車撞擊而死亡。運用AI人工智慧工具臨床試驗，為憂鬱症患者提供更精準藥物治療，以及透過AI人工智慧產出的無人駕駛拖拉機，使農民提供農業效率並永續土地，讓我們一同探索AI人工智慧正快速改變的產業。
2024-05-28
生成式AI迎來技術大躍進，人工智慧會取代人的專業嗎?淺談人工智能模型 (LLM)對於網頁程式開發的影響。前言
在AI經歷數個冰河期後，終於在後疫情時代來到了一個技術高峰，而這個破冰者就是OPen AI(ChatGPT)，對於這個話題不管你是是正在接觸AI，對AI技術有些了解的人，抑或是專業領域上對於AI介入感到焦慮的人都希望可以文中得到收穫。
本文想分享一些個人對於AI的理解及對於LLM模型的一些
2024-02-19
AI人工智慧：開發、優勢與應用創新在當今數位時代，AI人工智慧正成為引領未來的關鍵技術之一。AI的發展不僅改變了我們與科技互動的方式，還深刻地塑造了社會、經濟和文化的格局。以下將探討AI的定義、開發階段和其帶來的優勢。
2024-02-15
ai人工智慧概念股精選-原相 》2024新光證券開戶優質平台沒想到路上就有櫻花大景！南投信義鄉的「觀山休息區」，現場種有40多棵桃紅色山櫻花樹，沿著台21線都可賞絕美櫻花景，夜晚雲海繚繞時，還有機會拍到夜櫻琉璃光！
觀山休息區桃紅色山櫻花樹，吸引網友前往取景。（圖／molly888666）
觀山休息區桃紅色山櫻花樹，吸引網友前往取景。（
2024-02-11
科技一周 |谷歌最新人工智慧模型Gemini 以及AMD AI晶片 MI300，帶來甚麼改變! 20231215 我覺得谷歌會大贏。不單單是看所謂的AI模型的效能有多強，而是看整體的公司架構以及現在的產業現況。就微軟與Open AI 而言，當我看到Sam Altman 與Satya Nadella 講話的時候，他的問法是說: 『奈德拉你怎麼看待我們的合作?』我基本上不會對我們緊密合作的夥伴這樣說話。
2023-12-15
AI人工智慧浪潮下的選股(類股分析)墜落雲端的彈起
去(2022)年1月5日台股迎來了18,619點的高點，隨著不再出現塞港、重複下單、清庫存等議題，接著通膨過高引來的3月升息潮，股市一路震盪走跌。
去年10月25日台股的近期最低點12,629點，跌破1990年的12,682點。
隨著升息逐漸進入尾聲，清庫存的腳步也可以預期，加上股市
2023-02-14
ARK研究報告-Big ideas2022-AI人工智慧篇#14大家的乾媽(2020限定版)-凱瑟琳伍德的ARK基金公司每年都會提出對於未來5-10年的科技大趨勢研究報告，雖然目前ARK們的績效從2021年開始就積弱不振許久，但是ARK的研究仍是具有前瞻性、值得一讀的。ARK認為現在的投資，在未來五年後才是收割的時候。
2022-03-19
【電影】AI人工智慧
電影：AI人工智慧
原文：A.I. Artificial Intelligence
上映：2001年
導演：Steven Allan Spielberg
評分：★★★★★
NETFLIX 12/14要下架這部電影，趁還沒下架之前重溫這部經典好片，沒想到這部電影竟然也有2.5個小時，記得小時候看得覺
2021-12-07
「AI人工智慧是人類之友還是敵人？」科幻神劇西方極樂園教我們的事(2)AI人工智慧是人類之友還是敵人？
其實《西》片主要環繞在在未來人工智能已經和人類真假不分的時代，AI人究竟是人類「玩樂的工具」，還是同樣享有生命權、思想自由及天賦人權的種族？抑或是處於人類對立面的天敵？我認為這也是編劇試著透過此劇跟現代人探討的。
在科技日新月異的今天，我們不知道有哪天會再出現賈伯斯
2021-11-20