「統計学関連なんでもあり」の過去ログ--- 041

No.05174　多変量のロジスティック回帰　　【ニコ】　2007/12/26(Wed) 13:34

ステップワイズなどの変数選択をするまえのフルモデルの決め方で困っています。有意でない変数も目的変数に対する効果が＋なのか－なのか確かめたいと思っています。
目的変数に対する効果が単回帰の場合とすべての説明変数を入れた場合とで逆（＋が－とか）になる変数や，単回帰では有意な相関が見られないが，他の変数を加えると有意な相関が見られる変数があります。そういった変数は変数選択をするとはねられるケースがほとんどでしたが，フルモデル自体にも加えないほうがいいのでしょうか。
基本的な質問ですみません

No.05190　Re: 多変量のロジスティック回帰　　【青木繁伸】　2007/12/27(Thu) 22:32

標準化係数の絶対値の小さいものは，要するに，重要性の低いものですからそれがプラスだのマイナスだの決めてもあまり意味はないかも。他の変数のちょっとした影響や，どれかのデータがちょっと大きいだの小さいだのに影響されますしね。
また，他のスレッドにも書いたし，今までも多くのスレッドに共通して回答してきたことであるが，単変量や二変量解析の結果を幾つ積み上げても多変量解析の結果にはなりません。
要するに，分析対象とした変数セットの中の相互関係で全てが決まるわけですから，たとえばある変数を加えたり除いたりしただけで何らかの変化が起きるわけです。多くの場合は好ましい（解釈可能な）方向への変化でしょうが，場合によってはがらりと様相の異なった（多くの場合は不正な）結果が生み出されることがあるのです。

正負だけを決めたいなら，他の変数の影響を一切考慮しない二変数の相関で決めればよいでしょう。