決定係數(Coefficient of Determination),通常以 R^2 表示,是衡量迴歸模型擬合效果的一個統計指標。它代表模型解釋的目標變量變異的比例,用於評估模型對數據的解釋能力。
- R^2 = 1 表示模型完美擬合數據(預測值完全等於真實值);
- R^2 表示模型表現等同於只用平均值作預測;
- R^2 表示模型表現劣於平均值模型。
決定係數在特徵選擇中的角色
- 用作評估包含某些特徵的迴歸模型是否改進了對目標變量的解釋能力;
- 在包裝法中特徵選擇可以依據提升的 $$ R^2 $$ 來篩選有用特徵;
- 適用於線性回歸和類似迴歸模型的特徵評估。