尾數

含有「尾數」共 3 篇內容
全部內容
發佈日期由新至舊
FP8 精度是一種浮點數表示格式,代表了 8-bit 浮點數。它是最新引入的數值精度形式,主要用於深度學習中的 AI 訓練和推論,旨在在性能與數據精度之間取得更好的平衡。 1. FP8 精度的基本概念 浮點數表示格式: 浮點數是一種數據表示方式,分為 符號位、指數位 和 尾數位。FP8 格式的
Thumbnail
該文章介紹了浮點數精度的概念,包括雙精度、單精度、半精度、8位精度、4位精度、量化精度、多精度和混合精度。同時還介紹了nVidia A100開始的TF32精度和BF16格式,並提供了相關的數據對比。文章強調了TF32和BF16的潛在應用價值及特點。
Thumbnail
初稿:20231225 修訂:20240222 剛好看到一篇文, 台股沒有連續下跌2年, 似乎呼應了十年大週期, 投資人在每天努力的研究中, 就是希望找到漲跌的規律, 一做多就漲,一做空就跌, 但是當沖或日線、週線,都太短了, 很容易抓龜走鱉,或多空雙巴, 所以才要研究指數最
Thumbnail