「統計学関連なんでもあり」の過去ログ--- 040

No.04164　重回帰分析の解釈について　　【MAGI】　2007/08/16(Thu) 22:28

重回帰分析の結果の解釈と記述で悩んでいます
独立変数6個と従属変数で重回帰分析をおこないました．回帰分析概要：例数78，欠測値20，相関係数（IRI）.7585，R2乗.5753，自由度調整R2乗.5394，RMS残差1.998．分散分析表：自由度6，残差71，F値16.03，p＜00001．
回帰係数：独立変数1標準偏回帰係数：.183
回帰係数：独立変数2標準偏回帰係数：-.050
回帰係数：独立変数3標準偏回帰係数：.528**
回帰係数：独立変数4標準偏回帰係数：.405**
回帰係数：独立変数5標準偏回帰係数：.041
回帰係数：独立変数6標準偏回帰係数：.036
結果の解釈の記述について，以下の内容で問題ないでしょうか？
+++
6独立変数によって従属変数が説明される割合は53.9％であり，独立変数のうち，従属変数を予測するために有用な変数は，独立変数3と4のみであった．
+++
重回帰分析の理解が足りないのだと思いますが，自由度調整R2乗（決定係数）がどの程度あれば，モデル（独立変数の選択）がうまくいったと判断していいのでしようか？
ネット上の文献などでは，0.2を超えればいいという文献もあれば，0.5以上必要という文献もあり，実質的に従属変数の予測をするためには，0.7～0.9位は必要という文献もあります．
また，今回の結果のように自由度調整R2乗（決定係数）が0.5程度でも，各独立変数の標準偏回帰係数が全部p値が＜.05か＜.01でなくとも，結果に意味があり，上記のような解釈記述をしていいものなのでしょうか

No.04166　Re: 重回帰分析の解釈について　　【青木繁伸】　2007/08/16(Thu) 22:44

> 6独立変数によって従属変数が説明される割合は53.9％であり，独立変数のうち，従属変数を予測するために有用な変数は，独立変数3と4のみであった．

6 変数を使ったかぎりにおいてはそのような結果であることは間違いないとは思いますが，3，4のみが有用な変数とするのには問題が残ります。本当に3，4のみが有用と言うためには，ある独立変数を使う使わないという今の場合なら2^6個のモデルを比較する（こういうのを総当たり法と言います）必要があるでしょう（ステップワイズ変数選択でも不十分でしょう）。

> 自由度調整R2乗（決定係数）がどの程度あれば，モデル（独立変数の選択）がうまくいったと判断していいのでしようか？

自由度調整済みR2乗値がどのくらいであればよいかは，分野ごとに異なるでしょう。ある分野ではR^2>0.95 でも不十分かも知れないし，別の分野ではそれこそR^2=0.7でも上等かも知れない。でもまあ，R^2>0.2 なんてことはほとんどないのではないかなあ。0.5でもどうかなあ。

> 自由度調整R2乗（決定係数）が0.5程度でも，各独立変数の標準偏回帰係数が全部p値が＜.05か＜.01でなくとも，結果に意味があり

標準化偏回帰係数が有意である独立変数だけを使ったモデルで検討すれば，よりはっきりするでしょう?有意でない独立変数は使う必要がない，有意な独立変数だけ使った重回帰モデルが有意ならそれでよしと。。。（この場合にも，総当たり法を使った方が明快）

No.04177　Re: 重回帰分析の解釈について　　【MAGI】　2007/08/18(Sat) 05:21

いつもご教示感謝いたします
また基本的というよりは，小学生れべるな質問になってしまいますが，6変数の総当たり法の組み合わせは6×5×4×3×2+1で720通り分析必要になりますか？

No.04178　Re: 重回帰分析の解釈について　　【青木繁伸】　2007/08/18(Sat) 05:55

小学生レベルではないですが，4166に書いたとおり2^6=64通りです
実際にはそのうちのひとつはどの独立変数も使わないモデルなので，63通りのモデルをやってみると言うことになります。
http://aoki2.si.gunma-u.ac.jp/R/All_possible_subset_selection.html
を使うと良いでしょう。

No.04184　Re: 重回帰分析の解釈について　　【MAGI】　2007/08/19(Sun) 06:36

ご教示深謝いたします．Rの件，ご教示いただきながら手をつけていません．63通りの組み合わせを手持ちの統計ソフトでやってみます．ありがとうございました．