Chat GPT是黑盒子嗎 ?

閱讀時間約 1 分鐘

人工智慧中最受歡迎的作法莫過於類神經網路,以當今最受歡迎的大型語言模型 (LLM)也不例外,然而這些持續受到爭議:黑盒子,也就是說我們不知道它內部怎麼運作,只知道給它一段話,它就會輸出一段話來回應。

以下從幾個面向來討論「黑盒子」議題:


  • 透明性 Transparency

以LLM模型的開源層度來詮釋,以下以三個程度來說明

  1. Chat GPT系列:完全沒有公開LLM的權重; 也沒有公開訓練方法
  2. Llama系列:有公開LLM權重; 但沒有公開訓練方法
  3. Pythia系列:有公開LLM權重; 也有公開訓練方法


  • 思維可理解 Interpretable

以Decision Tree這種Machine Learning方法最為被推崇,因為對於Decision Tree中每個分支的生長都能有Entropy與Gini Index為依據,不過這裡存在爭議,因為當Decision Tree生長到非常巨大,非常深之時,Interpretable這項特性就會漸漸喪失

以當今最火紅的LLM,裏面的關件元素乃是Transformer,這很明顯也不具備Interpretable特性


  • 可解釋性Explainable

核心議題就是:「找出影響輸出的關鍵輸入

可行作法舉例:

  1. 觀察每一個輸入的改變對輸出的影響
  2. 在Transformer中,觀察Attention機制的數值
  3. 找出影響輸出的關鍵訓練資料 (模型這樣講,是受到哪筆訓練資料影響呢?)
  4. 以Probing技術,深入LLM模型中挖掘Embedding層資訊
  5. 將LLM模型中的Embedding高維資訊投影至低微空間
  6. 既然LLM都會說話了,那就直接問它即可 (不全然可信)


資訊來源:https://www.youtube.com/watch?v=rZzfqkfZhY8

avatar-img
161會員
409內容數
這裡將提供: AI、Machine Learning、Deep Learning、Reinforcement Learning、Probabilistic Graphical Model的讀書筆記與演算法介紹,一起在未來AI的世界擁抱AI技術,不BI。
留言0
查看全部
avatar-img
發表第一個留言支持創作者!
Learn AI 不 BI 的其他內容
回顧ChatGPT回答不是你要的怎麼辦?這篇文章,Chat GPT回答的結果常常不如人意,因此有個Facebook提出的技術,叫做RAG,它是提升Chat GPT回答品質的方式之一,詳細實作步驟可以參照自己做免錢Chat GPT吧。 這次我們來換個方法,今天要介紹Reinforcement Lea
當Chat GPT回答的東西不是你想要的,怎麼辦呢? 我們提供想法的思路於:ChatGPT回答不是你要的怎麼辦? 我想自己動手改善,但是我沒有GPU這項資源怎麼辦? 我們提供免費使用方式於:使用Meta釋出的模型,實作Chat GPT - Part 0 有了操作環境,但是我不知道怎麼
到目前為止,我們已經完成RAG技術的實作,在上一篇文章使用Meta釋出的模型,實作Chat GPT - Part 5中,可以看到加入RAG之後,可以讓我的大型語言模型回答更為精確。 現在我們要把它用一個畫面做呈現,而不是以程式碼來給大家看,就類似Chat GPT這樣,背後有複雜的程式運行,但是眾人
延續使用Meta釋出的模型,實作Chat GPT - Part 4,我們現在遇到一個問題:語言模型回答的資訊不是我想要的。 於是我參照ChatGPT回答不是你要的怎麼辦?,想使用低成本的技術:RAG,來改善這問題。 以下開始實作,首先引入一個重量級工具包,它叫做LangChain,這是做語言模型
在使用Meta釋出的模型,實作Chat GPT - Part 3中我們已經建立好大型語言模型遇到哪些「字串」要停止輸出的列表,現在我們將它製作成一個物件,對應程式如下: from transformers import StoppingCriteria, StoppingCriteriaList
延續使用Meta釋出的模型,實作Chat GPT - Part 2 我們已經確定可以進入HuggingFace之後,就要來載入模型,其對應程式為: Model_Config = transformers.AutoConfig.from_pretrained( Mode
回顧ChatGPT回答不是你要的怎麼辦?這篇文章,Chat GPT回答的結果常常不如人意,因此有個Facebook提出的技術,叫做RAG,它是提升Chat GPT回答品質的方式之一,詳細實作步驟可以參照自己做免錢Chat GPT吧。 這次我們來換個方法,今天要介紹Reinforcement Lea
當Chat GPT回答的東西不是你想要的,怎麼辦呢? 我們提供想法的思路於:ChatGPT回答不是你要的怎麼辦? 我想自己動手改善,但是我沒有GPU這項資源怎麼辦? 我們提供免費使用方式於:使用Meta釋出的模型,實作Chat GPT - Part 0 有了操作環境,但是我不知道怎麼
到目前為止,我們已經完成RAG技術的實作,在上一篇文章使用Meta釋出的模型,實作Chat GPT - Part 5中,可以看到加入RAG之後,可以讓我的大型語言模型回答更為精確。 現在我們要把它用一個畫面做呈現,而不是以程式碼來給大家看,就類似Chat GPT這樣,背後有複雜的程式運行,但是眾人
延續使用Meta釋出的模型,實作Chat GPT - Part 4,我們現在遇到一個問題:語言模型回答的資訊不是我想要的。 於是我參照ChatGPT回答不是你要的怎麼辦?,想使用低成本的技術:RAG,來改善這問題。 以下開始實作,首先引入一個重量級工具包,它叫做LangChain,這是做語言模型
在使用Meta釋出的模型,實作Chat GPT - Part 3中我們已經建立好大型語言模型遇到哪些「字串」要停止輸出的列表,現在我們將它製作成一個物件,對應程式如下: from transformers import StoppingCriteria, StoppingCriteriaList
延續使用Meta釋出的模型,實作Chat GPT - Part 2 我們已經確定可以進入HuggingFace之後,就要來載入模型,其對應程式為: Model_Config = transformers.AutoConfig.from_pretrained( Mode
你可能也想看
Google News 追蹤
Thumbnail
這個秋,Chill 嗨嗨!穿搭美美去賞楓,裝備款款去露營⋯⋯你的秋天怎麼過?秋日 To Do List 等你分享! 秋季全站徵文,我們準備了五個創作主題,參賽還有機會獲得「火烤兩用鍋」,一起來看看如何參加吧~
Thumbnail
11/20日NVDA即將公布最新一期的財報, 今天Sell Side的分析師, 開始調高目標價, 市場的股價也開始反應, 未來一週NVDA將重新回到美股市場的焦點, 今天我們要分析NVDA Sell Side怎麼看待這次NVDA的財報預測, 以及實際上Buy Side的倉位及操作, 從
Thumbnail
Hi 大家好,我是Ethan😊 相近大家都知道保濕是皮膚保養中最基本,也是最重要的一步。無論是在畫室裡長時間對著畫布,還是在旅途中面對各種氣候變化,保持皮膚的水分平衡對我來說至關重要。保濕化妝水不僅能迅速為皮膚補水,還能提升後續保養品的吸收效率。 曾經,我的保養程序簡單到只包括清潔和隨意上乳液
Thumbnail
Heypi 使用感受:介面非常簡潔、乾淨。使用起來很方便,而且免費。需要的小夥伴快去體驗吧~體驗地址在最後~ Pi是一種新型AI,能夠以自然、流暢的風格進行對話。並且能夠提供友善的建議和簡潔的資訊。優先處理與人的對話,提高工作效率、搜尋或回答問題。
Thumbnail
ChatGPT 是由 OpenAI 開發的一種人工智能語言模型,它基於 GPT-3.5 架構。GPT 的全名是 "Generative Pre-trained Transformer",它是一種預訓練的自然語言處理模型。GPT-3.5 是 GPT 系列的最新版本,它在 GPT-3 的基礎上進行了改進
Thumbnail
這篇文章介紹了ChatGPT,一種大型的語言模型,能以自然語言回答問題,但不透過搜尋罐頭文字或網路內容。其核心技術是自監督式學習,通過大量的網路資料進行訓練,讓模型能進行文字接龍。儘管GPT系列經歷了多次演進,並需用大量的訓練資料,它的問答能力仍有待提升。然而,透過不斷優化,我們已有了更進一步的版本
Thumbnail
在面試準備的過程中,我們可能會發現自己對某些領域缺乏相關的專業知識,尤其是廣泛的領域如Marketing更是如此,永遠都有學不完的知識。這時候不需要因為看到陌生的名詞而感到沮喪。相反地,我們可以善用現有的資源,例如 Chat GPT 等實用軟體,從網路上輕鬆獲得所需的知識,以增強自己的硬實力。
Thumbnail
本文介紹了如何使用 Chat GPT 進行面試準備,以提高面試成功率。同時,使用 Chat GPT 還能幫助你製作出更有組織性的文章,讓你的回答更易於閱讀和理解。儘管 Chat GPT 提供了有價值的輔助,成功仍然取決於面試者本身的充分準備和自信,只有這樣才能在面試中脫穎而出。
Thumbnail
雖然它現在很紅,但還是幫不知道的人介紹一下它是什麼東西呢 不如...讓它自己介紹自己吧 基本上它的語言能力已經強到即使用中文溝通也不會讓中文人士覺得語句有不順暢的地方,當然它更強的是可以在所有領域的問題都找的到答案,例如: 但關於投資建議或是對於人類重要的選擇,它似乎會做很模稜兩可的回答 但由於它其
Thumbnail
如果你喜歡這個專題,歡迎 #單筆 或 #定期定額 贊助我們,這將能支持我們持續關心並投入媒體環境監督觀察、兒少閱聽權益、關注新聞自由等工作,謝謝你一直以來的支持與鼓勵!
Thumbnail
「ChatGPT」哇哇墜地後,聽說「OpenAI訓練的大型語言模型」很厲害。筆者不禁也想趕個流行,來測試一下這個AI人工智能的能力。據說「ChatGPT」能扮演各種角色。甚至已經有網站,為他寫了各種的角色的腳本。譬若「https://github.com」網
Thumbnail
這個秋,Chill 嗨嗨!穿搭美美去賞楓,裝備款款去露營⋯⋯你的秋天怎麼過?秋日 To Do List 等你分享! 秋季全站徵文,我們準備了五個創作主題,參賽還有機會獲得「火烤兩用鍋」,一起來看看如何參加吧~
Thumbnail
11/20日NVDA即將公布最新一期的財報, 今天Sell Side的分析師, 開始調高目標價, 市場的股價也開始反應, 未來一週NVDA將重新回到美股市場的焦點, 今天我們要分析NVDA Sell Side怎麼看待這次NVDA的財報預測, 以及實際上Buy Side的倉位及操作, 從
Thumbnail
Hi 大家好,我是Ethan😊 相近大家都知道保濕是皮膚保養中最基本,也是最重要的一步。無論是在畫室裡長時間對著畫布,還是在旅途中面對各種氣候變化,保持皮膚的水分平衡對我來說至關重要。保濕化妝水不僅能迅速為皮膚補水,還能提升後續保養品的吸收效率。 曾經,我的保養程序簡單到只包括清潔和隨意上乳液
Thumbnail
Heypi 使用感受:介面非常簡潔、乾淨。使用起來很方便,而且免費。需要的小夥伴快去體驗吧~體驗地址在最後~ Pi是一種新型AI,能夠以自然、流暢的風格進行對話。並且能夠提供友善的建議和簡潔的資訊。優先處理與人的對話,提高工作效率、搜尋或回答問題。
Thumbnail
ChatGPT 是由 OpenAI 開發的一種人工智能語言模型,它基於 GPT-3.5 架構。GPT 的全名是 "Generative Pre-trained Transformer",它是一種預訓練的自然語言處理模型。GPT-3.5 是 GPT 系列的最新版本,它在 GPT-3 的基礎上進行了改進
Thumbnail
這篇文章介紹了ChatGPT,一種大型的語言模型,能以自然語言回答問題,但不透過搜尋罐頭文字或網路內容。其核心技術是自監督式學習,通過大量的網路資料進行訓練,讓模型能進行文字接龍。儘管GPT系列經歷了多次演進,並需用大量的訓練資料,它的問答能力仍有待提升。然而,透過不斷優化,我們已有了更進一步的版本
Thumbnail
在面試準備的過程中,我們可能會發現自己對某些領域缺乏相關的專業知識,尤其是廣泛的領域如Marketing更是如此,永遠都有學不完的知識。這時候不需要因為看到陌生的名詞而感到沮喪。相反地,我們可以善用現有的資源,例如 Chat GPT 等實用軟體,從網路上輕鬆獲得所需的知識,以增強自己的硬實力。
Thumbnail
本文介紹了如何使用 Chat GPT 進行面試準備,以提高面試成功率。同時,使用 Chat GPT 還能幫助你製作出更有組織性的文章,讓你的回答更易於閱讀和理解。儘管 Chat GPT 提供了有價值的輔助,成功仍然取決於面試者本身的充分準備和自信,只有這樣才能在面試中脫穎而出。
Thumbnail
雖然它現在很紅,但還是幫不知道的人介紹一下它是什麼東西呢 不如...讓它自己介紹自己吧 基本上它的語言能力已經強到即使用中文溝通也不會讓中文人士覺得語句有不順暢的地方,當然它更強的是可以在所有領域的問題都找的到答案,例如: 但關於投資建議或是對於人類重要的選擇,它似乎會做很模稜兩可的回答 但由於它其
Thumbnail
如果你喜歡這個專題,歡迎 #單筆 或 #定期定額 贊助我們,這將能支持我們持續關心並投入媒體環境監督觀察、兒少閱聽權益、關注新聞自由等工作,謝謝你一直以來的支持與鼓勵!
Thumbnail
「ChatGPT」哇哇墜地後,聽說「OpenAI訓練的大型語言模型」很厲害。筆者不禁也想趕個流行,來測試一下這個AI人工智能的能力。據說「ChatGPT」能扮演各種角色。甚至已經有網站,為他寫了各種的角色的腳本。譬若「https://github.com」網