「統計学関連なんでもあり」の過去ログ---029

★ 残差平方和の展開について ★

3621.　残差平方和の展開について　なまず　2004/07/05 (月) 20:24
└3625.　Re: 残差平方和の展開について　TY　2004/07/06 (火) 12:56
　└3631.　Re^2: 残差平方和の展開について　なまず　2004/07/07 (水) 09:31

3621.　残差平方和の展開について　なまず　　2004/07/05 (月) 20:24

はじめまして。
初歩の段階でつまずいています。
y=x+eの残差平方和の展開(y-x)^t *(y-x)について（x，yは行列，^tは転置），
(y-x)^t *(y-x)=y^t *y -y^t *x -x^t *y +x^t *x
でなく
(y-x)^t *(y-x)=y^t *y -2y^t *x +x^t *x
となるのが正しいという理由が分かりません。
ご存知の方がいらっしゃいましたら，教えていただけないでしょうか？

　　　　　[このページのトップへ]

3625.　Re: 残差平方和の展開について　TY　　2004/07/06 (火) 12:56

> y=x+eの残差平方和の展開(y-x)^t *(y-x)について（x，yは行列，^tは転置），
> (y-x)^t *(y-x)=y^t *y -y^t *x -x^t *y +x^t *x

x, yが行列ならば，上の式が正しいと思います。
ところで，y, eをn次元の列ベクトル，Xをn行p列の行列，bをp次元の列ベクトルとします。今，X*b = yhatとすると，yhatはn次元の列ベクトルです。
y = X*b + e (= yhat + e)
となっている場合，(表記法はなまずさんに合わせてみました)
(y - yhat)^t * (y - yhat)
でy^t * yhat, yhat^t * yの関係はどうなっているでしょうか。

　　　　　[このページのトップへ]

3631.　Re^2: 残差平方和の展開について　なまず　　2004/07/07 (水) 09:31

お返事ありがとうございます。

> > (y-x)^t *(y-x)=y^t *y -y^t *x -x^t *y +x^t *x
> x, yが行列ならば，上の式が正しいと思います。
> (y - yhat)^t * (y - yhat)
> でy^t * yhat, yhat^t * yの関係はどうなっているでしょうか。

x, yを列ベクトルで扱う場合は平方和の展開がスカラーになるからまとめることができるのですね。
納得しました。
ありがとうございます。
長い間もやもやっとしていたものがすっきりしました。

　　　　　[このページのトップへ]