P3
含有「P3」共 1 篇內容
全部內容
發佈日期由新至舊
iBonnie_愛邦尼
2024/03/11
淺談DeepLearning的浮點數精度FP32/FP16/TF32/BF16........(以LLM為例)
該文章介紹了浮點數精度的概念,包括雙精度、單精度、半精度、8位精度、4位精度、量化精度、多精度和混合精度。同時還介紹了nVidia A100開始的TF32精度和BF16格式,並提供了相關的數據對比。文章強調了TF32和BF16的潛在應用價值及特點。
#
點數
#
數位
#
F16
2
留言