「統計学関連なんでもあり」の過去ログ---017

★ 標準偏回帰係数 ★

　17　標準偏回帰係数　　tanpopo　　2001/12/14 (金) 11:19
　　20　Re: 標準偏回帰係数　　アリマキ　　2001/12/15 (土) 00:11
　　　21　Re^2: 標準偏回帰係数　　tanpopo　　2001/12/15 (土) 13:57
　　　　23　Re^3: 標準偏回帰係数　　アリマキ　　2001/12/15 (土) 18:58
　　　　　32　Re^4: 標準偏回帰係数　　tanpopo　　2001/12/16 (日) 18:13
　　　　　　35　Re^5: 標準偏回帰係数　　青木繁伸　　2001/12/16 (日) 19:11
　　　　　　　38　Re^6: 標準偏回帰係数　　tanpopo　　2001/12/16 (日) 23:23
　　　　　　　　41　Re^7: 標準偏回帰係数　　青木繁伸　　2001/12/16 (日) 23:52
　　　　　　　　　45　Re^8: 標準偏回帰係数　　tanpopo　　2001/12/17 (月) 11:28

17.　標準偏回帰係数　　tanpopo　　2001/12/14 (金) 11:19

重回帰分析における標準偏回帰係数（ベータ）は，0～1の範囲になると経験的に思っていたのですが，1.2という係数が出てしまいました。これは誤りでしょうか?

　　　　　[このページのトップへ]

20.　Re: 標準偏回帰係数　　アリマキ　　2001/12/15 (土) 00:11

> 重回帰分析における標準偏回帰係数（ベータ）は，0～1の範囲になると経験的に思っていたのですが，1.2という係数が出てしまいました。これは誤りでしょうか?

誤りか否かという問題ではなく『用いた回帰モデルではそのような結果になった』ということでしょう。回帰診断，特に構造診断を実施されては如何でしょうか。ill conditionの状態であることに起因しているかも知れません。

　　　　　[このページのトップへ]

21.　Re^2: 標準偏回帰係数　　tanpopo　　2001/12/15 (土) 13:57

回帰診断，特に構造診断とはどのようにするのですか?
不勉強ですみません。

また，やはり通常標準偏回帰係数が1以上ということはないのでしょうか・

　　　　　[このページのトップへ]

23.　Re^3: 標準偏回帰係数　　アリマキ　　2001/12/15 (土) 18:58

> 回帰診断，特に構造診断とはどのようにするのですか?
> 不勉強ですみません。
>
> また，やはり通常標準偏回帰係数が1以上ということはないのでしょうか・

所与のデータに対してモデルを想定し，重回帰分析という分析手法に従って計算した結果としてそのような解を得る場合もあります。そのような意味では誤りではない，と思います。ただし，そのような解(絶対値が0-1の範囲外)が得られるという裏には，説明変数間に多重共線関係が認められる場合が多々あります。そういう意味でモデルに問題があるのではないか，と考えた次第です。
構造診断では先に述べた多重共線性に関する検討がおこなわれます。手軽な方法としてはモデル内の説明変数間で相互に強い相関を持つような変数が含まれていないか調べる，というのは如何でしょうか。市販の解析ソフト（例えばSAS）をお使いでしたら種々の診断指標がありますので様々な視点から検討できると思います。

　　　　　[このページのトップへ]

32.　Re^4: 標準偏回帰係数　　tanpopo　　2001/12/16 (日) 18:13

> 構造診断では先に述べた多重共線性に関する検討がおこなわれます。手軽な方法としてはモデル内の説明変数間で相互に強い相関を持つような変数が含まれていないか調べる，というのは如何でしょうか。市販の解析ソフト（例えばSAS）をお使いでしたら種々の診断指標がありますので様々な視点から検討できると思います。

多重共線性の問題があるのではないかと思い，VIFもみたのですが，1.2程度でした。
1以上であるにはちがいないので，問題が発生しているのかもしれませんが。。

　　　　　[このページのトップへ]

35.　Re^5: 標準偏回帰係数　　青木繁伸　　2001/12/16 (日) 19:11

機密を要するデータであったり，大きなデータならしようがないですが，データがどんな風であるかを見せてくれると，コメントをつけようとしている方が自分で必要な解析をして，問題点を指摘してくれるかもしれませんね。
提示してもよいが，500字制限に引っかかるという場合は，私宛にメイルで送ってください。皆さんが見ることができる場所にアップロードします。
私の e-mail アドレスは，
S.aoki@atom.si.gunma-u.ac.jp
ただし，上のはスパム除けをしてありますので，本当のアドレスは文字列の先頭2文字（S.）を除いたものです。

　　　　　[このページのトップへ]

38.　Re^6: 標準偏回帰係数　　tanpopo　　2001/12/16 (日) 23:23

ありがとうございます。VIFは1.2ではなく，1.61858でした。
データは
y 　　　X1 　　X2
1066003 19.24 0.1681
827807 14.25 0.18
743321 15.23 0.2013
723003 10.96 0.1618
772119 15.18 0.2198
665984 11.69 0.2179
746303 15.49 0.1919
700655 11.21 0.1555
704448 11.08 0.1619
733819 12.27 0.1719
745216 8.68 0.1153
694065 9.34 0.1277
817366 11.31 0.1475
753461 8.9 0.1264
701734 12.28 0.2013
857426 15.7 0.1972
950403 18.01 0.1772
822199 15.04 0.1952
676664 12.38 0.1861
642795 11.21 0.2059
758737 10.26 0.1702
712127 10.29 0.1658
829650 10.12 0.1339
716166 11.79 0.1768
710826 10.12 0.1534
910908 14.31 0.1632
974320 13.48 0.1361
811414 11.59 0.1584
763656 10.68 0.1541
796006 14.24 0.198
762514 14.12 0.2098
743702 15.43 0.2376
869744 16.61 0.1915
930453 14.39 0.1741
921749 18.96 0.2106
932100 20.74 0.2094
854638 17.26 0.1992
847196 16.17 0.2037
984785 26.27 0.2254
1078407 18.45 0.163
941446 18.25 0.1934
986463 19.32 0.1954
964645 20.08 0.2016
888856 17.41 0.2052
856340 17.31 0.1939
957071 20.46 0.2155
969674 15.27 0.1322

　　　　　[このページのトップへ]

41.　Re^7: 標準偏回帰係数　　青木繁伸　　2001/12/16 (日) 23:52

*相関係数行列
y　　1.00000
X1　0.76399　1.00000
X2　0.07511　0.61829　1.00000
　　　　　　y　　　　　　　X1　　　　　　　X2

　　　　　　　　　　偏回帰係数　　　標準化偏回帰係数
X1　　　　　34276.39　　　1.161616
X2　　-2471779.　　　　-0.6431042
定数項　　　773985.9

　　　　　トレランス　　　　　分散拡大係数
　X1　0.6177193　　1.618858
　X2　0.6177193　　1.618858

yとx2の相関係数とyとx1の相関係数は両方とも正の相関係数で，前者は後者に比べて非常に小さいですね。
にもかかわらず標準化偏回帰係数はx2の方は負の値（しかも絶対値はx1のに比べてかなり大きい）になっています。単純相関係数と回帰係数の符号が違ってしまうのは，明らかに多重共線性があるというべきです。
トレランスはそんなに低くはないかもしれないけど...疑いようがないです。

この場合，x2 は独立変数として用いるべきではありません。

　　　　　[このページのトップへ]

45.　Re^8: 標準偏回帰係数　　tanpopo　　2001/12/17 (月) 11:28

ありがとうございます。これですっきりしました。
説明変数間の相関係数がそれほど高くないときでも多重共線性の問題は生じるのですね。VIFを単純にみればすむと思っていたのが恥ずかしいかぎりです。

　　　　　[このページのトップへ]