「統計学関連なんでもあり」の過去ログ---035

★ 説明変数を2乗するのはどうしてですか？ ★

8040.　説明変数を2乗するのはどうしてですか？　しげ　2005/10/21 (金) 02:35
├8065.　Re: 説明変数を2乗するのはどうしてですか？　元サムライ名物学生　2005/10/23 (日) 12:44
├8053.　Re: 説明変数を2乗するのはどうしてですか？　Mao　2005/10/21 (金) 23:26
├8042.　Re: 説明変数を2乗するのはどうしてですか？　青木繁伸　2005/10/21 (金) 09:04
└8041.　Re: 説明変数を2乗するのはどうしてですか？　ぼん　2005/10/21 (金) 08:44

8040.　説明変数を2乗するのはどうしてですか？　しげ　　2005/10/21 (金) 02:35

基本的なことについて質問させて下さい。重回帰分析で，一度回帰を行った後で，一つの説明変数の2乗値を加えて改めて回帰を行っている場合がありますが，これはどうしてなのでしょうか？2乗値を加えることでどのような結果を期待しているのでしょうか？基本的なことで恐縮ですが，教えて下さい。

　　　　　[このページのトップへ]

8065.　Re: 説明変数を2乗するのはどうしてですか？　元サムライ名物学生　　2005/10/23 (日) 12:44

その昔，私の大先生になぜそういうテスト（検定）をするのかと尋ねましたところ，次のだいたい次のような答えが返ってまいりました。だいたいの概念として参考になれば幸いです。

重回帰の他の説明変数項以外の当該変数に関係する部分を

Y＝......＋bX＋cX^2

とします。他に定数項や他の説明変数もあってもなくても基本的には同じです。そこで，

Y＝......＋bX

Y＝......＋bX＋cX^2

の 2つの重回帰をやることになるのですが，2つ目の2乗項が含まれるものは，あらかじめ理論で考えられるモデルにはない項であるとします。この2つ目の重回帰による暗黙の検定は何かといいますと，端的に言うと，説明変数の効果が一定（リニア）なのか，そうでないのかをテストしていることになります。つまり，おおざっぱに言って，cの係数があらかじめ定められた基準で有意と判断されればその説明変数の値によって効果が変化する，反対に有意でないと判断されれば（つまりもともとのモデルを適用）その変数の効果はその変数の大きさによらず一定で，その説明変数に関してはそれでよいということになります。

このことは，Xで偏微分してやると明らかです。前者はb，後者はb＋2cXとなり，前者は一定であるのに対して，後者はXの値にしたがって変化します。cが（有意に）プラスであればその説明変数の大きさにしたがって効果は増す，反対にマイナスであればその説明変数の大きさにしたがって効果は減るということになります。

そういう暗黙のテストをしているのであろうということです。もちろん，これらのいろいろな施行錯誤や検定は，モデルの妥当性のチェックやOLSの誤差項の仮定を満たしていない場合への対処ということにもつながります。

　　　　　[このページのトップへ]

8053.　Re: 説明変数を2乗するのはどうしてですか？　Mao　　2005/10/21 (金) 23:26

回帰分析では，一度回帰をやった後に残差を検討する回帰診断というものが存在しますね。簡単に言うと，これは残差の様子からあてはめた式の妥当性を調べるものです。それをやったら，説明変数の二乗の項を入れたほうがよいという指示が出たのかもしれません。単回帰の場合ですと，グラフを作れば1次か2次かの傾向を見ることができますが，重回帰の場合，グラフからデータの全体像をつかむことは困難なので残差に頼るとよいわけです。二乗の項をいれるかどうかは，解析するひとの判断なので，実践的な方法ですかね。

　　　　　[このページのトップへ]

8042.　Re: 説明変数を2乗するのはどうしてですか？　青木繁伸　　2005/10/21 (金) 09:04

ある変数がそのままで従属変数に作用するのか，その二乗（一般にn乗）が作用するのかはいずれかに決まっているものでしょうね。

一乗と二乗の両方が関連すると言うこともあるでしょうが。

一方，多項式回帰ということを考えれば，変数の何乗までの項を入れようと差し支えはないし，最高次数までの全ての次数を入れる必要もない（一乗と三乗を入れるだけみたいに）。

そもそも，その論文になぜ二乗の項を入れたかという説明がないほうが変ですし，説明がないということは説明ができない，つまり，決定係数を大きくしたい（見かけのあてはめを良くしたい）という，よこしまな気持ちで入れただけなんでしょうね。

　　　　　[このページのトップへ]

8041.　Re: 説明変数を2乗するのはどうしてですか？　ぼん　　2005/10/21 (金) 08:44

> 基本的なことについて質問させて下さい。重回帰分析で，一度回帰を行った後で，一つの説明変数の2乗値を加えて改めて回帰を行っている場合がありますが，これはどうしてなのでしょうか？2乗値を加えることでどのような結果を期待しているのでしょうか？基本的なことで恐縮ですが，教えて下さい。
----------------------------------------------------------
2 変数以上の回帰式を求める場合，2変数目以降の係数が他の係数と相関がでる場合があり推定精度が悪くなる。これを全てが互いに独立な線形結合で表現するためには2変数目以降の係数を展開して定数項を含む係数(たとえばy=m+a*x1+b*x2の係数m,a,b)の積和が全て0になるように係数b'を加えることで線形独立な回帰式がえられます。y=m+a(x1-x1')+b*((x2-x2')-b'(x1-x1'))この(x1-x1')はこのb'は Σ(x1-x1')/｛Σ(x2-x2')/Σ(y-y')｝で求まります。2乗値を加える事で要するに互いに直交する独立な係数を得る事が期待できるということですが，そのようなことを聞かれているのでしょうか？答えになっているかわかりませんが・・。

　　　　　[このページのトップへ]