「統計学関連なんでもあり」の過去ログ--- 041

No.06059　重回帰分析の解釈について　　【ＭＡＧＩ】　2008/03/05(Wed) 18:55

いつも参考にさせていただいています。

重回帰分析を用いて6独立変数と従属変数との関係を分析しました。
自由度調整R二乗値が0.539（p＜.001）でした。
独立変数のうち標準偏回帰係数のP値が＜.05のものが2個しかありません。
6独立変数全体で，従属変数への影響度：モデルの説明度は高いが，従属変数を予測するに統計的に意味のある独立変数は，P値が＜.05の2個のみと解釈していいのでしょうか。
残りの4独立変数は，従属変数への影響がないと考えていいのでしょうか。

ご教示いただければ幸いです。

No.06060　Re: 重回帰分析の解釈について　　【青木繁伸】　2008/03/05(Wed) 19:02

> モデルの説明度は高いが

自由度調整済みの重相関係数の二乗値が 0.539 というのは，独立変数で従属変数の分散（情報）の54%ほどが説明されているということですよね。分野にもよるでしょうが，そんなに高い数値ではないとも思えます。P値が小さい事だけを目安にしてはいけません。用いたデータの個数がほどほど大きいから自由度調整済みの重相関係数の二乗値が 0.539 程度なのに P 値が 0.001 以下のようになっているおそれがありますね（検定結果は P 値だけで判断してはいけません。というか，統計量の実質的な意味を考えて，実質的に意味があるときに検定をするのですから。）。

> 従属変数を予測するに統計的に意味のある独立変数は，P値が＜.05の2個のみ...残りの4独立変数は，従属変数への影響がないと考えていいのでしょうか。

その2つの独立変数だけを用いた重回帰分析の結果と比較してみるとよいと思いますよ。

No.06072　Re: 重回帰分析の解釈について　　【MAGI】　2008/03/06(Thu) 21:40

いつもコメントありがとうございます
分野は社会科学です
ネットや文献などでは，重相関係数の二乗値が0.3以下でも，「F値は＠＠．＠＠＠（df＝＊．＊＊＊）で有意水準1％未満で有意であり，独立変数と従属変数の関係を分析に役立つと判断した」といった記述がみられます．当方の統計推計学の基礎ができていないのだと思いますが，サンプル数がこれくらいなら，重相関係数の二乗値がどれ位で，F値はこれこれ位ならモデルの説明力がまあまあといった解釈や記述が可能なのかが，なかなか理解できません．ちなみに，P値が＜.05以下の変数のみで重回帰分析を行ったところ，ほぼ同じ重相関係数の二乗値となりました．サンプルは98例です．この場合，ほかの4変数は影響がなかったと解釈していいのでしようか？つまり，別の変数を投入して，重相関係数の二乗値が高くなればなるほど，モデルの精度がいいと考えていいのでしょうか？

No.06073　Re: 重回帰分析の解釈について　　【青木繁伸】　2008/03/06(Thu) 22:13

> ネットや文献などでは，重相関係数の二乗値が0.3以下でも，「F値は＠＠．＠＠＠（df＝＊．＊＊＊）で有意水準1％未満で有意であり，独立変数と従属変数の関係を分析に役立つと判断した」といった記述がみられます

まあ，はっきり言わせていただくと，統計学的な有意というのと実質的に意味があるというのをまるっきり考えていないんではないかと思いますね。査読者も一体何を見ているのか，読者が気づかないのも無理はないのかという感じがします(^_^)
重相関係数の二乗和の意味をよく考えるべきだと思いますねぇ。

> P値が＜.05以下の変数のみで重回帰分析を行ったところ，ほぼ同じ重相関係数の二乗値となりました．サンプルは98例です．この場合，ほかの4変数は影響がなかったと解釈していいのでしようか？

そういうことでしょう。よりシンプルなモデルで同等な説明力が得られたのですから，シンプル・イズ・ザ・ベストなんでしょうねぇ

> つまり，別の変数を投入して，重相関係数の二乗値が高くなればなるほど，モデルの精度がいいと考えていいのでしょうか？

「つまり」という接続語でつながる論理ではないと思いますが。。。？？
本来は変数を加えるとモデルの説明力は上がるはずなんだけど，今の場合は，別の変数を投入してもさしてモデルの説明力は上がらなかったということで，追加した変数は何の意味もなかったなぁということなんでしょ？