「統計学関連なんでもあり」の過去ログ--- 039

No.02073　重回帰分析について　　【かわい】　2006/12/30(Sat) 15:36

重回帰分析を行ったのですが，説明変数間で高い相関が出てしまいステップワイズで行った結果，ほとんどの説明変数が除去されてしまいました。相関が高いが明らかに因果関係はないというような説明変数なのですが，やはり相関がある以上はこれらの変数を使った回帰式を得ることはできないのでしょうか。初心者なので的はずれな質問になっているかもしれませんが，ご回答よろしくお願いします。

No.02076　Re: 重回帰分析について　　【青木繁伸】　2006/12/30(Sat) 15:53

> 相関が高いが明らかに因果関係はないというような説明変数

これは，あきらかにまずいと思います。
何段階ものネットワークをたどって結果的に影響を及ぼしたとも考えられないのですね。
「明らかに因果関係はない」と，あなたが言い切るなら，そのような変数を説明変数に組み入れるのは，「明らかな誤り」です。

互いに相関が高い説明変数がステップワイズ変数選択でそのうちの大部分が捨てられるが，それでもなお「因果関係がある変数群」を一緒に説明変数に入れたいのなら，PLS回帰とかいろいろあるようですよ。

No.02081　Re: 重回帰分析について　　【かわい】　2006/12/30(Sat) 16:18

ご回答ありがとうございます。
＞「明らかに因果関係はない」と，あなたが言い切るなら，そのような変数を説明変数に組み入れるのは，「明らかな誤り」です。

「明らかに因果関係はない」というのは説明変数同士に因果関係がないという意味なのですが，それでもこれらの変数を説明変数に組み入れるべきではないのですか？

No.02082　Re: 重回帰分析について　　【青木繁伸】　2006/12/30(Sat) 16:31

> 説明変数間で高い相関が出てしまい
と，書いてありましたね。
> 相関が高いが明らかに因果関係はないというような説明変数なのですが
という方に引きずられてしまいました。

因果関係と相関関係というのは別物ですから，そして相関係数も重回帰分析も相関関係しか扱えませんから，機械的に落とされてしまうのでしょうね。
ということで，PLS回帰?

No.02084　Re: 重回帰分析について　　【かわい】　2006/12/30(Sat) 16:43

＞因果関係と相関関係というのは別物ですから，そして相関係数も重回帰分析も相関関係しか扱えませんから，機械的に落とされてしまうのでしょうね。
ということで，PLS回帰?

PLS回帰について調べてみます。丁寧に答えてくださって本当に助かりました。ありがとうございました。