尾數
含有「尾數」共 3 篇內容
全部內容
發佈日期由新至舊
DA的美股日記
2024/11/17
FP8 精度是甚麼
FP8 精度是一種浮點數表示格式,代表了 8-bit 浮點數。它是最新引入的數值精度形式,主要用於深度學習中的 AI 訓練和推論,旨在在性能與數據精度之間取得更好的平衡。 1. FP8 精度的基本概念 浮點數表示格式: 浮點數是一種數據表示方式,分為 符號位、指數位 和 尾數位。FP8 格式的
#
模型
#
NVIDIA
#
GPU
喜歡
留言
iBonnie_愛邦尼
2024/03/11
淺談DeepLearning的浮點數精度FP32/FP16/TF32/BF16........(以LLM為例)
該文章介紹了浮點數精度的概念,包括雙精度、單精度、半精度、8位精度、4位精度、量化精度、多精度和混合精度。同時還介紹了nVidia A100開始的TF32精度和BF16格式,並提供了相關的數據對比。文章強調了TF32和BF16的潛在應用價值及特點。
#
點數
#
數位
#
F16
3
留言
輕紫琉璃的沙龍
2024/02/22
臺股大週期與指數投資規律-一個投資人的30年反思(下集,AI選標題有點意思)
初稿:20231225 修訂:20240222 剛好看到一篇文, 台股沒有連續下跌2年, 似乎呼應了十年大週期, 投資人在每天努力的研究中, 就是希望找到漲跌的規律, 一做多就漲,一做空就跌, 但是當沖或日線、週線,都太短了, 很容易抓龜走鱉,或多空雙巴, 所以才要研究指數最
#
尾數
#
指數
#
十年
2
留言