在統計急救箱─樣本變異數與標準差的最後提到了變異數與標準差也可以用空間的方式來理解,只是要對向量有點基本的認識。
其實寫完我就有點後悔,一方面是我也沒有很系統的學過線性代數,另一方面是用向量的方式理解似乎沒有比用面積來理解變異數更好。不過既然都提了,還是當作一個不同的理解方向寫出來好了。
雖然高中有教過向量,這裡還是先簡單解釋一下向量是什麼。
向量其實就是一個空間中的一個線段,但比線段多了一個屬性──方向。所以在空間中的向量會用帶有箭頭的線段來表示,這也意味著即使長度相同,方向不同都會被視為是不同的向量。
舉個生活中的例子。假如今天中午同事拜託我去買飲料,她說出公司往東走100公尺會看到一家50嵐,結果我什麼也沒看到,打開google map一看才發現是反方向──要往西走100公尺。假如我提著飲料回座位之後,同事說:「哎呀沒差啦,都是100公尺嘛!」我以後一定不會再幫她買飲料了。
這就是向量的意思,雖然都是100公尺(相同長度),但方向不一樣就是不同的向量。
如同圖一所表示的,在空間中沿著向量移動會抵達某個終點。但如果這時候問:「那麼這個人現在和他的出發點距離多遠呢?」此時問的是直線距離,而不是他實際移動的距離。如下圖的藍色問號。
藍色線段的距離在平面座標上算起來也很簡單,小人現在在座標(3, 4)的位置,和原點(0, 0)之間的直線距離,可以發現和a1向量與a2向量形成一個直角三角形。根據三角形的畢氏定理,斜邊的長度就是另外兩邊的平方和開更號。所以是5。
圖中的右側有寫上歐基里得距離的正式數學公式,就是把每個向量長度平方後相加,接著開更號就行了。換個說法就是,把目標點的座標(3, 4)裡的每個數字平方之後相加,然後開更號就行了(當然這是指和原點之間的距離才可以這樣算)。
上面舉的是平面的例子,用直角三角形可以很簡單的算出來。不過歐基里得距離在更高維度的空間當中也是相同的計算方式,例如3D空間中:
基本上人類的視覺最多只能看到三維空間而已,但在數學理論中是可以有三維以上的空間的,這就畫不出來了。幸好這篇只是介紹怎麼用向量的觀點看標準差,所以接下來都是用三維空間來舉例就好了。
仔細看看歐基里得距離的公式,會發現這東西好像有點眼熟......把每個數字的平方相加後開更號,是不是在算標準差的時候我們也做過一樣的事情?
雖然有點像,但又不完全一樣。不過如果我們做點手腳,其實就可以把標準差的公式寫成歐基里得距離。
首先來處理分子的部分。
標準差的分子是要把每個數值都減去平均值,也就是計算和平均之間的距離,並且把這個距離平方後全都加起來。
可以想像如果把平均數當成座標軸的原點,而每一個x都是一個座標軸。在這裡我們先假設在計算3個數值的標準差,分別是x1、x2以及x3,那麼這就會形成一個三維座標空間。
把每一個x和平均數之間的差距畫成向量,那麼最後就等於從原點(平均數)走向某一個點。當這些向量最後的終點離原點的直線距離越遠,就可以斷定說這群x的分散程度是越高的。像是下圖這樣:
像圖中所寫的那樣,如果把每個x和平均數之間的差距簡化寫成a,那麼標準差的公式會變成怎樣呢?
於是會發現標準差其實是兩個歐基里得距離的公式所組成的!
分子的部分就是表示:把平均數當成原點,每一個x和平均的差距視為向量,沿著所有x產生的向量抵達終點後,該終點和原點之間的直線距離。
在上圖當中,改寫標準差公式的時候順便連分母一起改寫了。
雖然分母看起來也像是個歐基里得距離公式,但它又代表什麼意思呢?
剛剛說分子的座標系,是以平均為原點,每一個x都視為一個軸所組成的。想像在同樣的一個座標系中,沿著每一軸移動1單位的距離(下圖中的橘色向量),最後抵達了一個終點(下圖中的黑點)。這個終點和原點的直線距離(下圖中的紫色虛線),就是分母代表的歐基里得距離。
所以我們可以看到,假如某甲從平均數出發,沿著每個x所形成的軸走一段距離,這個距離是每個x和平均數之間的差距,最後某甲會抵達一個終點。
然後某乙也和某甲一樣沿著每一軸走一段距離,不過這次他在每一軸的移動距離都是1,最後某乙也抵達了一個終點。
某甲與某乙接著去測量自己和原點的直線距離有多遠。他們兩人測出的直線距離分別具有下面兩個意義:
因此把某甲和原點的直線距離,除以某乙和原點之間的直線距離,就可以當作是一種分散性的指標,也就是標準差。
換句話說,從這個角度來看標準差可以說是一種長度比例,也就是上圖藍色虛線是紫色的幾倍。
雖然用這個角度來看待標準差的說法似乎比較少,但仔細想想這樣的角度其實相對忽略了對變異數的解釋,我個人認為可以當個有趣的想法看看就好,還是用面積的方式來理解比較恰當。