2024-11-15|閱讀時間 ‧ 約 0 分鐘

AI說書 - 從0開始 - 250 | Attention Head 視覺化

我想要一天分享一點「LLM從底層堆疊的技術」,並且每篇文章長度控制在三分鐘以內,讓大家不會壓力太大,但是又能夠每天成長一點。


我們在 AI說書 - 從0開始 - 249 | BertViz 安裝 中已經準備好所有的素材了,包含 BertViz 的安裝,以及資料準備,現在可以展開視覺化之旅:

head_view(attention, tokens)


結果為:


分享至
成為作者繼續創作的動力吧!
© 2024 vocus All rights reserved.