AI說書 - 從0開始 - 163 | 準備 Pretrain 模型需要的函數庫

我想要一天分享一點「LLM從底層堆疊的技術」，並且每篇文章長度控制在三分鐘以內，讓大家不會壓力太大，但是又能夠每天成長一點。

整理目前手上有的素材：

• 準備資料集：AI說書 - 從0開始 - 162 | 準備Pretrain模型需要的資料

現在我們來準備 Pretrain 模型需要的函數庫：

!pip install Transformers 
!pip install --upgrade accelerate 
from accelerate import Accelerator

注意如果 Accelerate 模組如果沒有安裝，在模型訓練時會出現以下錯誤訊息：