尾數

#尾數含有「尾數」共 2 篇內容
全部內容
發佈日期由新至舊
淺談DeepLearning的浮點數精度FP32/FP16/TF32/BF16........(以LLM為例)該文章介紹了浮點數精度的概念,包括雙精度、單精度、半精度、8位精度、4位精度、量化精度、多精度和混合精度。同時還介紹了nVidia A100開始的TF32精度和BF16格式,並提供了相關的數據對比。文章強調了TF32和BF16的潛在應用價值及特點。
Thumbnail
2024-03-11
2
臺股大週期與指數投資規律-一個投資人的30年反思(下集,AI選標題有點意思)初稿:20231225 修訂:20240222 剛好看到一篇文, 台股沒有連續下跌2年, 似乎呼應了十年大週期, 投資人在每天努力的研究中, 就是希望找到漲跌的規律, 一做多就漲,一做空就跌, 但是當沖或日線、週線,都太短了, 很容易抓龜走鱉,或多空雙巴, 所以才要研究指數最
Thumbnail
2024-02-22
2