參數數量
含有「參數數量」共 1 篇內容
全部內容
發佈日期由新至舊
本文探討大資料對模型的影響。研究指出，大資料量對模型的語法和世界知識理解有顯著影響。固定運算資源下，DeepMind發現適應參數數量更重要，這使模型Chinchilla以較小規模但更多訓練資料，在實際任務中優於Gopher模型。這說明增大模型的規模已不具有太大意義，應增加訓練資料。
