「統計学関連なんでもあり」の過去ログ--- 043

No.11437　重回帰分析での多重共線性と変数選択　　【9232】　2009/12/06(Sun) 02:28

線形重回帰分析の変数選択に関して，以下2つお尋ねさせてください。
1．
以下のような場合はどのように対応したらよいか，ご教示いただけませんでしょうか。
＝＝＝
・2説明変数に多重共線性があるため（1/VIF=0.04），どちらかの1変数を落とす必要がありますが，
・いずれの説明変数も落としたくない（どうにか被説明変数との関係を表現したい）
＝＝＝
（操作変数法であれば，この心配は不要となるのでしょうか。なお，私（医療系）はもっぱら最小二乗法ばかりやっていたのですが，とある労働経済（パネルデータ研究）の専門家から「最小二乗法は（限界もあるため）もう時代遅れ，今は操作変数法が主流となりつつある。」と指摘を受けたのですが，一般的な理解なのでしょうか？）

2．
とある説明変数を研究仮説上「intermediate」と想定しており，理論上controlしたくない　と考えています。（confounderはcontrolすべきだがintermediateはしてはいけないと学んできました）
いざ技術的に重回帰分析をするにあたって少し混乱しており，この「controlを避ける」には，
・説明変数としてモデルに入れてはいけない
・（いやいや上記こそがcontrolしている行為で）モデルに入れる必要あり。
のどちらが適当なのでしょうか。

よろしくお願いします。

No.11438　Re: 重回帰分析での多重共線性と変数選択　　【波音】　2009/12/06(Sun) 16:45

多重共線性が生じているような場合に（説明変数間の相関が高い場合に）用いられる方法の1つとしてPCA回帰というものがあります。日本語でいえば主成分分析回帰ですが，要は説明変数に対して主成分分析を行い，作成された合成変数（主成分）を説明変数として用いるという方法です。

各主成分は分散が最大になるように作られるので，当然，相関関係はなくなる（低くなる）ということになります。

>　最小二乗法は（限界もあるため）もう時代遅れ，今は操作変数法が主流となりつつある。

そうなのですか，，，　操作変数法という方法を始めて知りました(^_^;)

No.11444　Re: 重回帰分析での多重共線性と変数選択　　【surg】　2009/12/07(Mon) 10:47

＞いざ技術的に重回帰分析をするにあたって少し混乱しており，この「controlを避ける」には，
＞・説明変数としてモデルに入れてはいけない
＞・（いやいや上記こそがcontrolしている行為で）モデルに入れる必要あり。
＞のどちらが適当なのでしょうか。

当然，モデルに入れてはいけません．

No.11466　Re: 重回帰分析での多重共線性と変数選択　　【kai】　2009/12/08(Tue) 19:14

＞今は操作変数法が主流となりつつある

操作変数法は全く知らなかったのですが，ある分野では主流になりつつあるようですね．
どういうものか検討してみる価値はありそうです．