「統計学関連なんでもあり」の過去ログ---030

★ 回帰分析での重みは応答変数の実測値で良いか ★

3915.　回帰分析での重みは応答変数の実測値で良いか　TY　2004/08/06 (金) 13:17
├3918.　Re: 回帰分析での重みは応答変数の実測値で良いか　青木繁伸　2004/08/07 (土) 14:12
│└3929.　Re^2: 回帰分析での重みは応答変数の実測値で良いか　竹澤　2004/08/09 (月) 10:03
│　└3930.　Re^3: 回帰分析での重みは応答変数の実測値で良いか　TY　2004/08/09 (月) 12:34
└3917.　Re: 回帰分析での重みは応答変数の実測値で良いか　さら　2004/08/06 (金) 23:03

3915.　回帰分析での重みは応答変数の実測値で良いか　TY　　2004/08/06 (金) 13:17

回帰分析で，応答変数Yの分散がYの値に比例している時，1/Yで重みを付けた最小二乗法を用いることがあります。このときの重みは測定された応答変数Yの値で良いでしょうか? あるいは，回帰式から予測されたYの値を用いる方が良いでしょうか?

　　　　　[このページのトップへ]

3918.　Re: 回帰分析での重みは応答変数の実測値で良いか　青木繁伸　　2004/08/07 (土) 14:12

> あるいは，回帰式から予測されたYの値を用いる方が良いでしょうか?

それだと，鶏と卵の関係になりませんか？

　　　　　[このページのトップへ]

3929.　Re^2: 回帰分析での重みは応答変数の実測値で良いか　竹澤　[URL]　　2004/08/09 (月) 10:03

　竹澤（中央農業総合研究センター・農業情報研究部）です。

>回帰分析で，応答変数Yの分散がYの値に比例している時，1/Yで重みを付けた最小二乗法を用いることがあります。このときの重みは測定された応答変数Yの値で良いでしょうか? あるいは，回帰式から予測されたYの値を用いる方が良いでしょうか?

　これは，反復重み付き最小2乗法(Iteratively Reweighted Least Squares; IRLS)の典型的な問題だと思います。IRLSは，現在では一般化線形回帰のための手法として話題になることが多いわけですけれども，重みをつける最小2乗法における代表的な手法です。例えば以下の本の51ページの後半に書かれています。

Generalized Linear Models: With Applications in Engineering and the Sciences by Raymond H. Myers, Douglas C. Montgomery, G. Geoffrey Vining

Wiley-Interscience; 1 edition (September 28, 2001) ISBN: 0471355739

一般化線形回帰に関する文献以外でもIRLSを取り上げているものもあります。例えば，以下の本の357ページの後半です。

Data Analysis and Regression : A Second Course in Statistics (Addison-Wesley Series in Behavioral Science) by Frederick Mosteller, John W. Tukey

Pearson Education POD; (January 1, 1977) ISBN: 020104854X

ただ，IRLSがどういう条件の下で一意の解に収束するか，といったあたりについて書かれたものは発見できませんでした。

　　　　　[このページのトップへ]

3930.　Re^3: 回帰分析での重みは応答変数の実測値で良いか　TY　　2004/08/09 (月) 12:34

皆様ありがとうございます。

> 　これは，反復重み付き最小2乗法(Iteratively Reweighted Least Squares; IRLS)の典型的な問題だと思います。

非線型の回帰式において，反復重み付き最小2乗法でパラメータ推定を行おうとしています。紹介頂いた本は手近にありませんが，取り寄せて勉強しようと思います。

> ただ，IRLSがどういう条件の下で一意の解に収束するか，いったあたりについて書かれたものは発見できませんでした。

非線型の回帰をまじめに扱うのは初めてです。同じ推定値で反復を止めていても，推定法によっては収束した，と答えたり，収束しなかった，と答えたりすることがあって悩むことがあったりもします。

　　　　　[このページのトップへ]

3917.　Re: 回帰分析での重みは応答変数の実測値で良いか　さら　　2004/08/06 (金) 23:03

重みをつけるのではなくて，　1/Y　あるいは sqrt(Y) に　変換してみてはどうでしょうか？

　　　　　[このページのトップへ]