迴歸分析 - 考試

Table of Contents

假設有一迴歸模型如下:

Y=a+bX1+cX2+d(X2)^2+eX3+fD+ε

其中
Y為被解釋變數

X1, X2, X3, D為解釋變數,且D亦為虛擬變數(0或1)

a, b, c, d, e, f為迴歸係數

iid
ε~ N(0,σ^2)

以最小平方法進行迴歸估計。

試問:

若將原資料中的變數X1作單位變換為(X1)'=0.01X1,即X1乘上0.01倍後,產生新的變數

(X1)',其餘變數不變,重新估計迴歸式,則新的迴歸係數b'_hat及其標準差、對應之t值、

Adjusted R^2將如何變動?

-------------------------------------------------------------------------------

想法:

若將迴歸模型簡化為簡單迴歸:

Y=a+bX+ε

當X'=0.01X時,

Sx'y 0.01Sxy
b'_hat=------=-------------=100b_hat......(1)
Sx'x' (0.01)^2Sxx

a'_hat=a_hat

SSTO'=Syy=SSTO

(Sx'y)^2 (0.01)^2(Sxy)^2
SSR'=----------=-----------------=SSR
Sx'x' (0.01)^2Sxx

SSE'=SSTO'-SSR'=SSTO-SSR=SSE

MSE'=MSE

則b'_hat的標準差為

S(b'_hat)=sqrt(MSE'/Sx'x')=sqrt(MSE/(0.01)^2Sxx)=100sqrt(MSE/Sxx)

=100S(b_hat)......(2)

且由(1)(2)式可得知t值為

b'_hat 100b_hat b_hat
t'=-----------=------------=---------=t......(3)
S(b'_hat) 100S(b_hat) S(b_hat)

判定係數為

R'^2=R^2

調整後的判定係數為

Adjusted R'^2=Adjusted R^2......(4)

故由(1)(2)(3)(4)式可知

當變數X乘上0.01倍後重新估計迴歸式,得知b_hat與S(b_hat)皆放大100倍,而t值與

Adjusted R^2皆不變。

回到最上面的題目

不曉得1個變數以上的迴歸模型是否也有相同的結果?

懇請版上的高手指點一下

謝謝

--

All Comments

Ophelia avatarOphelia2014-12-16
一樣. 只是證明私話, 不要代迴歸係數公式, 而是由 "最小平
William avatarWilliam2014-12-18
方" 條件去思考.
Christine avatarChristine2014-12-20
當然要從迴歸係數公式去證也可以, 不過需要用到佢矩陣運算.