尾數
含有「尾數」共 5 篇內容
全部內容
發佈日期由新至舊
IEEE 754（IEEE 754）不只定義一般浮點數，也特別規範了特殊值，用來處理溢位、非法運算等情況。最重要的就是：
Infinity（±∞）
NaN（Not a Number）
一、先回顧浮點數結構
以常見的 double（64-bit） 為例：
[ 符號位 | 指數位 | 尾數位
「快取未命中 」是 CPU 的效能殺手。當 CPU 在高速小冰箱（快取）中找不到資料，就必須停工，去慢速大倉庫（RAM）取貨，這會導致 100 倍的延遲。三種主要元兇：不可避免的「強制性失誤」（冷啟動）、因資料太多導致的「容量性失誤」（冰箱太小），以及最棘手的「衝突性失誤」（儲存規則衝突）。
FP8 精度是一種浮點數表示格式，代表了 8-bit 浮點數。它是最新引入的數值精度形式，主要用於深度學習中的 AI 訓練和推論，旨在在性能與數據精度之間取得更好的平衡。
1. FP8 精度的基本概念
浮點數表示格式： 浮點數是一種數據表示方式，分為 符號位、指數位 和 尾數位。FP8 格式的
該文章介紹了浮點數精度的概念，包括雙精度、單精度、半精度、8位精度、4位精度、量化精度、多精度和混合精度。同時還介紹了nVidia A100開始的TF32精度和BF16格式，並提供了相關的數據對比。文章強調了TF32和BF16的潛在應用價值及特點。
初稿：20231225
修訂：20240222
剛好看到一篇文，
台股沒有連續下跌2年，
似乎呼應了十年大週期，
投資人在每天努力的研究中，
就是希望找到漲跌的規律，
一做多就漲，一做空就跌，
但是當沖或日線、週線，都太短了，
很容易抓龜走鱉，或多空雙巴，
所以才要研究指數最
