【對外經濟貿易大學】《計量經濟學》【全101課】 P14 - 14.14.[2.10.1]--2.3.5方差分解與擬合優度

同學你好,今天我們來學習方差分析和寧和優度。 前面我們已經知道了,OLS的目標是能夠保證我們寧和初的曲線是最接近真實曲線的,也就是說我們定義的最優。 但是這個最優或者說最好究竟有多好,我們是需要一個測度來衡量這個最好的。 那麼這節課呢,我們要來講述兩個測度。 第一個比較常用的是我們所謂的寧和優度R方或者R2,它衡量了我們Y的數據的變差當中能被X所解釋的比例。 那因爲R2的定義呢是一個比例的定義,它是沒有單位的。 另外一個叫做SER,這個SER呢,它是以Y的這個單位來進行衡量的。 它衡量的是我們的誤差所導致的這個殘差的平均的大小。 那現在我們一個一個的來解釋這個原理。 首先我們來看R2,我們需要用到這樣一個示意圖。 假設這是我們的X,這是我們的Y。 那麼在我們的數據給定的情況下,那麼我們知道Y的均值其實是一條給定的曲線。 那假設呢我們任意的選一個點,這是我們的XI,YI這個點。 那麼呢我們可能有一條迴歸曲線是給定一個YIhat是等於B0再加上B1XI的。 那麼很顯然這個YI和YIhat之間不一定是完全相等的。 那麼我們這個差別就是我們的殘差,所以我們就有如下的三個距離。 一個是YI與Ybar的距離,一個是YI與YIhat的距離。 還有一個呢就是我們的YIhat和我們的Ybar之間的距離。 當然呢這個點呢它是在我們的迴歸曲線的上方,所以我們的這些都是正的。 那有可能比如說這個點在迴歸曲線的下方有可能是負的。 所以呢如同我們的這個最小二乘一樣,我們把這些距離全部給它加上一個平方。 然後呢把所有的這些個平方向給它加起來,我們就得到了三個距離。 那接下來呢我們要來看一看這三個距離分別是什麼意思或者它們之間的關係是什麼樣的。 那麼這個是跟我們的迴歸沒有關係的,我們衡量的是每一個YI離Ybar的距離。 我們把它叫做總的離差平方和,離差平方和。 這個呢衡量的是我們的YI和YIhat的距離,我們把它叫做我們的殘差平方和。 而這個呢是我們用YIhat去代替了這個YI來解釋每一個YIhat離我們的Ybar之間的距離。 所以這個呢我們就把它叫做迴歸平方和。 然後呢我們可以得出如下的這個定義,當然呢在不同的教材當中可能這三個縮寫是不一樣的。 你不用在意它的縮寫是什麼樣子,因爲有的書可能把它叫做TSS,把這個叫做ESS。 或者甚至有的書把這個叫做SSE等等,這個都沒有關係,關鍵的是你要看它所對應的定義。 然後呢我們可以證明說這個總的離差平方和和我們的解釋平方和或者說迴歸平方和以及殘差平方和之間是有一個這樣的關係的。 那麼在這個證明當中我們用到的最重要的這個技巧呢就是一個拆散天象。 在我們的總的離差平方和的公式當中,我們給它加入一個YIhat再減去一個YIhat。 然後用完全平方公式去給它展開這個組合出來的兩項。 那麼第一項呢就是我們的這個殘差,第二項呢就是我們的YIhat減去Ybar。 變成了我們完全平方和公式展開的三項以後,第一項這個就是我們的殘差平方和,這個就是我們的迴歸平方和或者說解釋的平方和。 而中間這個交叉項呢我們可以證明它其實是等於0的。 爲什麼等於0呢?是因爲這個UIhat是我們的殘差項,YIhat它是由我們的常數項和X所構成的線性組合。 我們知道殘差的和爲0,以及殘差乘上每個Xi的和爲0,所以這兩個相乘是等於0的。 而這個乘上這個呢,Ybar是一個常數可以拿到Sigma外面去,所以我們再一次利用殘差的和爲0,可以得出我們中間的這個交叉項其實是等於0的。 所以我們就得到了這樣的一個公式,就是我們的總的平方和SST,它是等於我們的迴歸平方和再加上殘差平方和的。 換句話講,在剛纔的那個圖當中,Yi離Ybar的距離是固定的,所以我們要把這個固定的距離給它拆成了兩部分。 一個好的迴歸,我們是希望這個殘差平方和這部分越小越好,那又由於它們的總和是固定的,那相應的呢,這部分我們當然就是希望它越大越好。 所以我們就定義這樣的一個R方或者R²,它是等於我們的迴歸所解釋的數據的變差,再除上Y的總的變差。 那麼在一些特殊的情況下,你可能會得到一個說,我的每一個點都在我的迴歸曲線上。 比如這樣的一個情形,你只有兩個觀測值,但是呢,你凝合了一條迴歸曲線,那看起來很完美啊,我們的每一個觀測值都在這一個迴歸曲線上,但事實上呢,這不是一個好的現象。 因爲在比如說與這種情形相比,第一個情形,你只有兩個觀測值去估一個方程,你是沒有所謂的自由度的,而第二種情形加上了這麼多觀測值呢,即便它的這個有些點的殘差是不等於0的,但是呢,它的所謂的自由度會更高一些。 那這個問題呢,我們在以後講可調節的這個R²的時候會進一步討論這個問題。 在現在這個階段呢,那麼你可以看到,首先,因爲每一部分都是一個平方和的形式,所以R²一定是大於等於0的。 第二個呢,是這個ESS,它是TSS的一部分,所以呢,我們的R²是小於等於1的。 再一個呢,就是說我們在推導SST等於我們的SSR加SSE的過程當中,其實我們是用了殘差的和等於0的這一個條件的。 那麼這個條件呢,僅對待常數項的迴歸成立,所以呢,我們這一個R²,那麼它其實在這個基礎上去定義的話,那麼你要知道有可能是。 在我們不待常數項的迴歸當中,是有可能出現小於0或者大於1的情形的,那麼這就是我們的R²。 我們可以根據這個R²去評價我們的模型,它所解釋的數據的總的離差平方和的比例。 那現在我們來看一下兩個例子,第一個例子呢,就是我們前面講到的CEO的薪酬和他的這個股本回報率之間的關係。 呃,在前面的課程當中呢,我們已經給出了這個迴歸方程,那麼當我們計算出我們的Yi hat之後,我們可以分別去計算我們的迴歸平方和和殘差平方和。 那我們得到了相應的R²是0.0132,那麼我們怎麼解釋這個0.0132呢? 我們說數據的總的離差平方和當中有1.32%的這個變差能被我們的迴歸所解釋,當然了,這是一個很可憐的一個結果。 第二個例子呢,是我們前面講過的班級規模與學生考試成績之間的關係。 那同樣呢,在你計算出Yi hat以及殘差以後呢,我們這個R²是等於0.051,它的解釋呢是說我們的總的離差平方和當中數據的5.1%的這個離差平方和能被我們的迴歸所解釋。 當然你可能會很好奇了,爲什麼在這個地方R²是如此之低呢? 這是因爲作爲一個入門的章節,我們現在的模型還是非常非常簡單的一元迴歸模型。 所以呢,我們的模型在你和我們的Yi方面做的還不夠好。 接下來的章節當中呢,我們會去提高我們的這個模型,去改進我們的這個模型,你可以看到R²也就會有一個比較大的提升。 好,經過我們的學習呢,我們已經推導了計算我們的係數的估計量beta hat的表達式,也推導了我們的R²的公式。 在你的觀測值是趨之可數的幾個的時候,你是可以用手算的,但事實上呢,在大多數時候,我們的觀測值都是成百上千的。 這個時候你是沒有辦法,也沒有必要用手工來計算它,我們可以用軟件Stata來實現。 在Stata當中,如果你要執行一個Y對X的迴歸,你只需要一個指令,就是regress這個命令。 在我們的計算機模塊當中,我們會手把手的教同學們如何去這個對數據進行描述和總結,如何去這個做一個迴歸的分析,以及如何解釋我們的迴歸的結果。 那這個呢,我們會在另一個章節來進行。 好的,那今天的課就到此爲止,我們下次見。