我想要一天分享一點「LLM從底層堆疊的技術」,並且每篇文章長度控制在三分鐘以內,讓大家不會壓力太大,但是又能夠每天成長一點。
現在來介紹 SHAP,Hugging Face 有這項技術的互動介面,在博弈論中,Shapley 值通過“玩家”的邊際貢獻來表達總價值的分配,在一個句子中,單詞就是“玩家”,每個單詞都有一個得分,總得分就是這個遊戲的價值,每個單詞的價值是通過計算句子中所有排列的結果來確定的,目標是了解每個單詞如何改變句子的意思。
比方說句子:I love playing chess with my friends,有七個字,亦即所有的排列組合為:7 x 6 x 5 x 4 x 3 x 2 x 1 = 5040,所以當句子很長時,計算 SHAP 值就會比較困難。