「統計学関連なんでもあり」の過去ログ--- 044

No.15376　重回帰分析の変数選択。変数選択規準とp値　　【ぶぶんぶん】　2011/09/25(Sun) 10:48

重回帰分析における説明変数の選択について，統計学などの本を読みあさっています。
質問に関連する内容として，次のことを理解しています。

（1）重回帰分析の最適なモデルを求めるために，AICなどの選択規準が有る。

（2）回帰式の有意性を検定するため，重回帰分析の分散分析でp値を求める。

（3）多重共線性に気を付ける必要がある。

＝＝＝＝

【質問1】
AICなどの説明変数選択規準を用いたとき，分散分析のp値では有意であると判断できながら，説明変数のp値を見ると，有意ではない説明変数が含まれることがあります。

説明変数のp値が有意かどうかで判断できるのならば，AICなどの方法で変数選択を行う意義はどこにあるのでしょうか。

また説明変数選択規準を考慮するのならば，説明変数の有意性はどのように解釈すれば良いのでしょうか？

【質問2】
最適な回帰モデルを求めるとき，多重共線性を取り除くこともできることがある，というのは正しい理解でしょうか。

No.15464　Re: 重回帰分析の変数選択。変数選択規準とp値　　【ぶぶんぶん】　2011/10/08(Sat) 19:05

>>15376

自己レスです。

=====

> 説明変数のp値が有意かどうかで判断できるのならば，AICなどの方法で変数選択を行う意義はどこにあるのでしょうか。

=====

考えてみれば，説明変数のp値では多重共線性を考慮に入れることはできませんね。

また多重共線性が起こっているかどうかはVIFなどの指標により調べることができるとも理解しています。

ということは，AICなどにより変数選択を行う理由は，説明変数のp値で説明変数がそれぞれ有意かどうかはわかるけども，多重共線性が考慮されないのでAICなどを使って，多重共線性も考慮した，最も適した回帰モデルが得られる，という理解で良いのでしょうか。