AI說書 - 從0開始 - 146 | BERT 微調之 Optimizer 與精準度配置

我想要一天分享一點「LLM從底層堆疊的技術」，並且每篇文章長度控制在三分鐘以內，讓大家不會壓力太大，但是又能夠每天成長一點。

• 訓練的必要模組安裝：AI說書 - 從0開始 - 135
• 載入資料集：AI說書 - 從0開始 - 136
• 資料集窺探：AI說書 - 從0開始 - 137
• 資料前處理與 Tokenization：AI說書 - 從0開始 - 138
• 資料 Padding 與訓練/驗證集切割：AI說書 - 從0開始 - 139
• Data Loader 設定：AI說書 - 從0開始 - 140
• BERT 模型窺探：AI說書 - 從0開始 - 141
• 載入 BERT 模型：AI說書 - 從0開始 - 142
• Optimizer 的 Decay Rate 群組配置：AI說書 - 從0開始 - 143
• BERT 模型的特定「層」參數窺探方法：AI說書 - 從0開始 - 144
• Optimizer 的 Decay Rate 群組窺探：AI說書 - 從0開始 - 145

現在要來配置 Optimizer，其程式為：

optimizer = BertAdam(optimizer_grouped_parameters, lr = 2e-5, warmup = .1)

接著定義衡量訓練結果好壞的函數：

def flat_accuracy(preds, labels): 
	pred_flat = np.argmax(preds, axis = 1).flatten() 
	labels_flat = labels.flatten() 
	return np.sum(pred_flat == labels_flat) / len(labels_flat)