線性模型是指輸出與輸入特徵之間是線性關係的機器學習模型,常用於迴歸與分類問題。常見的線性模型包括:
常見線性模型類型
1. 線性迴歸(Linear Regression)• 用於預測連續型目標值。
• 假設輸出是輸入變數的加權和加上偏差。
• 包括簡單線性迴歸與多元線性迴歸。
2. 岭回歸(Ridge Regression)
• 線性迴歸的改進,引入L2正則化,防止共線性及過擬合。
• 透過懲罰權重的平方值,使模型參數較為穩定。
3. 套索回歸(Lasso Regression)
• 利用L1正則化促使部分權重變為零,有助特徵選擇。
• 既可降維又能提升模型泛化能力。
4. 邏輯迴歸(Logistic Regression)
• 用於二分類或多分類問題,輸出為概率值。
• 將線性組合映射到概率空間(0到1)上,使用Sigmoid函數。
• 雖名為迴歸,實際是分類模型。
5. 線性判別分析(LDA)
• 監督式分類方法,尋找最佳線性投影以分離不同類別。
• 同時用於降維與分類。
6. 多項式迴歸(Polynomial Regression)
• 將特徵組合成多項式形式,捕捉非線性關係。
簡單比喻:
線性模型就像用一條直線或平面來近似複雜關係,簡單易解且解釋性強。
總結:
常見的線性模型包括線性迴歸、岭回歸、套索回歸、邏輯迴歸、線性判別分析與多項式迴歸,廣泛應用於迴歸與分類任務。