點估計及不偏估計(Point Estimation and Unbiased Estimation)

閱讀時間約 4 分鐘
點估計(point estimation)是指用樣本資料來估計母體參數,使用一個點的數值表示其估計值,因此稱為點估計。事實上我們相當常見的樣本平均數或樣本變異數就是點估計,我們是使用樣本資料計算出一個數值,然後再用這個點的數值去估計母體的參數。
用樣本平均數或樣本變異數去估計母體平均及母體變異就是點估計,用樣本平均去估母體平均,用樣本變異去估母體變異,用樣本的某個統計量直接去估母體參數,看起來好像非常直觀且簡單吧?
但其實不是這樣的,估計方法其實種類繁多,有最小方差均值不偏估計法 (MVUE)、一致最小方差不偏估計法(UMVUE)、最佳線性不偏估計法(BLUE)、 、最大概式估計法(MLE)、動差法(Method of Moment)…,每一種方法都用不同角度去切入,而得出的估計值可能也有所差異。
除了估計方法外,一個好的點估計還要有不偏性 (Unbiasedness)、有效性 (Efficiency)、一致性 (Consistency)、充分性 (Sufficiency)。總之估計一個母體平均或是其他母體參數其實沒有看上去的那麼容易,它除了要有一些好的數學特性之外還要用合理的估計方式去估計…。
但在大多數領域我們都不會接觸到這些內容,其一是除了母體平均和母體變異外或許我們不常需要估計其他母體參數,而母體平均及變異已經有一組簡單又廣為人知的估計式而不需要去學習這些內容重新推導一次。再來就是統計是一個相當古老的學科,點估計這些領域已經發展得相當成熟,該有的估計方法、數學特性尚稱完善,一般人在這領域也很難有所突破。
儘管如此,其重要性仍不可被抹滅。
那我們該如何衡量一個點估計的好壞呢?
除了不偏性 (Unbiasedness)、有效性 (Efficiency)、一致性 (Consistency)、充分性 (Sufficiency)這些數學特性外,有一個比較簡單易懂的方式也能用來衡量點估計的好壞。
那就是MSE
Variance代表點估計值的變異數,變異數小代表每一次估計出來的值不會差距太多。Bias代表點估計的期望值和母體參數的誤差,而MSE越小通常代表點估計越好,因其變異及誤差較小。
MSE也是一個在機器學習、回歸分析中相當常被使用的指標,Variance和Bias可以被視作模型複雜度的衡量標準。當MSE中的bias的數值為0時代表點估計的期望值和母體參數的誤差為0,這時我們就稱這一點估計為不偏估計量(Unbiased Estimator)
接續不偏估計量,事實上,之所以我們用來估計母體變異的樣本變異數是
分母為n-1而不是n的原因就是為了把它調整成不偏估計量。

Julia程式碼

using Random, Statistics
Random.seed!(0)

# 母體真實參數
trueVar, trueStd = 1/12, sqrt(1/12)

# 點估計之值
function estVar(n)
sample = rand(n)
sum((sample .- 0.5).^2)/n
end
# 計算點估計之期望值和母體真實參數之間是否有誤差
# 也就是說點估計是否為不偏
N = 10^7
for n in 5:5:30
biasVar = mean([estVar(n) for _ in 1:N]) - trueVar
biasStd = mean([sqrt(estVar(n)) for _ in 1:N]) - trueStd
println("n = ",n, " Var bias: ", round(biasVar, digits=5),
"\t Std bias: ", round(biasStd, digits=5))
end

Output

n = 5 Var bias: 1.0e-5
Std bias: -0.00642
n = 10 Var bias: 1.0e-5
Std bias: -0.00303
n = 15 Var bias: 0.0
Std bias: -0.00199
n = 20 Var bias: -1.0e-5
Std bias: -0.00148
n = 25 Var bias: -1.0e-5
Std bias: -0.00117
n = 30 Var bias: 0.0
Std bias: -0.00098
可以很清楚的察覺,隨著觀察值數量的增加,點估計的誤差也越來越小,這意味著點估計估計得越來越準。
為什麼會看到廣告
4會員
25Content count
留言0
查看全部
發表第一個留言支持創作者!
詹永裕的沙龍 的其他內容
一篇文章帶你搞懂何謂蒙地卡羅法。
這是一個資源有限的世界,我們所能得到的東西,能夠使用的金錢、時間,都是有限的,那我們能如何在這些有限的資源中做選擇呢?
每一個國家/經濟體的經濟制度都有所不同,但可以被約略劃分成市場經濟體系、混合經濟體系和計劃經濟體系。這一篇我們就來介紹兩個最常被拿來做比較,也分別分散在光譜的最兩端的兩個制度
個體經濟學和總體經濟學相互用不同的角度來觀察經濟行為。個體經濟學專注在經濟層面中個體的行為。而總體經濟學在研究經濟時則是把經濟視作一個整體切入,使用國民收入、經濟整體的投資和消費等總體性的統計概念來分析經濟運行規律。
經濟學是一門研究人類在資源及預算有限的情況下如何作出選擇的科學,也就是說研究人類在面對稀缺性時會如何做出選擇的科學。這些選擇包含了日常生活購物、大學科系的抉擇…
我們都知道普遍來講身高越高的人體重越重,身高與體重彼此相關,且是呈現正相關。既然彼此相關,有沒有一個測量標準能夠告訴我們它們有多相關?那就是共變異數和相關係數啦!
一篇文章帶你搞懂何謂蒙地卡羅法。
這是一個資源有限的世界,我們所能得到的東西,能夠使用的金錢、時間,都是有限的,那我們能如何在這些有限的資源中做選擇呢?
每一個國家/經濟體的經濟制度都有所不同,但可以被約略劃分成市場經濟體系、混合經濟體系和計劃經濟體系。這一篇我們就來介紹兩個最常被拿來做比較,也分別分散在光譜的最兩端的兩個制度
個體經濟學和總體經濟學相互用不同的角度來觀察經濟行為。個體經濟學專注在經濟層面中個體的行為。而總體經濟學在研究經濟時則是把經濟視作一個整體切入,使用國民收入、經濟整體的投資和消費等總體性的統計概念來分析經濟運行規律。
經濟學是一門研究人類在資源及預算有限的情況下如何作出選擇的科學,也就是說研究人類在面對稀缺性時會如何做出選擇的科學。這些選擇包含了日常生活購物、大學科系的抉擇…
我們都知道普遍來講身高越高的人體重越重,身高與體重彼此相關,且是呈現正相關。既然彼此相關,有沒有一個測量標準能夠告訴我們它們有多相關?那就是共變異數和相關係數啦!
你可能也想看
Thumbnail
重點摘要: 1.9 月降息 2 碼、進一步暗示年內還有 50 bp 降息 2.SEP 上修失業率預期,但快速的降息速率將有助失業率觸頂 3.未來幾個月經濟數據將繼續轉弱,經濟復甦的時點或是 1Q25 季底附近
Thumbnail
近期的「貼文發佈流程 & 版型大更新」功能大家使用了嗎? 新版式整體視覺上「更加凸顯圖片」,為了搭配這次的更新,我們推出首次貼文策展 ❤️ 使用貼文功能並完成這次的指定任務,還有機會獲得富士即可拍,讓你的美好回憶都可以用即可拍珍藏!
Thumbnail
剛跨入鍛造的時候,遇到開發各種材料的熱鍛零件,在設計模具時完全不知道要怎麼抓縮水率,只能去找老師傅問,通常會得到籠統的放大1.5%(或自己想),當請教老師傅這數據怎麼算出來的,也只能告訴你是經驗值或者那位前輩傳下來的,這讓當時的我頭很暈,因為鍛件公差差太大了! 後來去找了一些資料,其實是有一些公式可
Thumbnail
「黑天鵝」事件具有3大特性:不可測性、衝擊力道大及後見之明...
Thumbnail
一旦拿到訂單,在完工之前營造股每個月的營收及獲利就是穩穩的,相較營建股容易掌握多了。評估根基適不適合長期投資的步驟:(1)個股速覽 (2)損益表 (3)資產負債表 (4)現金流量表 (5)籌碼面 (6)營造股的必看指標:在手訂單 (7)估價。根基的未來現金股利殖利率高達9.4%,有望挑戰11.4%!
Thumbnail
如果你懷疑你的家人 有吞嚥方面的困難 請不要相信沒有儀器檢查的吞嚥評估 僅用觀察的方式做吞嚥評估是非常不負責任的 目前長照的吞嚥照護 沒有限定只能由聽語治療師執行 而且大部分也沒有經過檢查確認真正吞嚥的問題 其實是充滿風險且不負責任的
Thumbnail
歐洲央行應會維持目前的貨幣政策,然而面對經濟停滯、鉅額的債務,歐元的地位將受到威協。多數債務國政府為因應2年後的選舉,不顧眼前的經濟成長放緩、即將到期的債務,皆拋出擴大財政支出的政策以討好民意,甚至不理會歐盟而逐漸醞釀脫歐聲浪。因此,在各國未提出有效的財政政策和償債計畫前,不建議持有歐元資產。
Thumbnail
重點摘要: 1.9 月降息 2 碼、進一步暗示年內還有 50 bp 降息 2.SEP 上修失業率預期,但快速的降息速率將有助失業率觸頂 3.未來幾個月經濟數據將繼續轉弱,經濟復甦的時點或是 1Q25 季底附近
Thumbnail
近期的「貼文發佈流程 & 版型大更新」功能大家使用了嗎? 新版式整體視覺上「更加凸顯圖片」,為了搭配這次的更新,我們推出首次貼文策展 ❤️ 使用貼文功能並完成這次的指定任務,還有機會獲得富士即可拍,讓你的美好回憶都可以用即可拍珍藏!
Thumbnail
剛跨入鍛造的時候,遇到開發各種材料的熱鍛零件,在設計模具時完全不知道要怎麼抓縮水率,只能去找老師傅問,通常會得到籠統的放大1.5%(或自己想),當請教老師傅這數據怎麼算出來的,也只能告訴你是經驗值或者那位前輩傳下來的,這讓當時的我頭很暈,因為鍛件公差差太大了! 後來去找了一些資料,其實是有一些公式可
Thumbnail
「黑天鵝」事件具有3大特性:不可測性、衝擊力道大及後見之明...
Thumbnail
一旦拿到訂單,在完工之前營造股每個月的營收及獲利就是穩穩的,相較營建股容易掌握多了。評估根基適不適合長期投資的步驟:(1)個股速覽 (2)損益表 (3)資產負債表 (4)現金流量表 (5)籌碼面 (6)營造股的必看指標:在手訂單 (7)估價。根基的未來現金股利殖利率高達9.4%,有望挑戰11.4%!
Thumbnail
如果你懷疑你的家人 有吞嚥方面的困難 請不要相信沒有儀器檢查的吞嚥評估 僅用觀察的方式做吞嚥評估是非常不負責任的 目前長照的吞嚥照護 沒有限定只能由聽語治療師執行 而且大部分也沒有經過檢查確認真正吞嚥的問題 其實是充滿風險且不負責任的
Thumbnail
歐洲央行應會維持目前的貨幣政策,然而面對經濟停滯、鉅額的債務,歐元的地位將受到威協。多數債務國政府為因應2年後的選舉,不顧眼前的經濟成長放緩、即將到期的債務,皆拋出擴大財政支出的政策以討好民意,甚至不理會歐盟而逐漸醞釀脫歐聲浪。因此,在各國未提出有效的財政政策和償債計畫前,不建議持有歐元資產。