AI說書 - 從0開始 - 180 | RoBERTa 預訓練前言

我想要一天分享一點「LLM從底層堆疊的技術」，並且每篇文章長度控制在三分鐘以內，讓大家不會壓力太大，但是又能夠每天成長一點。

接下來，我們將預先訓練 Hugging Face RobertaForCausalLM 模型，使其成為 X (以前稱為 Twitter) 的生成式 AI 客戶支援聊天代理，RoBERTa 是僅有編碼器的模型，因此，它主要宗旨是在理解和編碼輸入。