「統計学関連なんでもあり」の過去ログ---036

★ 相関係数と回帰係数について ★

8563.　相関係数と回帰係数について　コナン　2005/12/05 (月) 17:31
├8574.　Re: 相関係数と回帰係数について　青木繁伸　2005/12/05 (月) 22:01
│└8577.　Re^2: 相関係数と回帰係数について　青木繁伸　2005/12/05 (月) 22:04
├8573.　Re: 相関係数と回帰係数について　cricket　2005/12/05 (月) 21:39
└8568.　Re: 相関係数と回帰係数について　青木繁伸　2005/12/05 (月) 18:03
　└8585.　Re^2: 相関係数と回帰係数について　sb　2005/12/06 (火) 11:25

8563.　相関係数と回帰係数について　コナン　　2005/12/05 (月) 17:31

卒論で質問紙調査をしている大学4年生です。
変数A, B, C, D, Eが変数Fに与える影響について調べています。
A, B, C, D,EそれぞれとFとの相関係数を計算すると，両側検定ではどれも有意になりません。（片側検定では変数Cのみ有意）

ところが，A,B, C,D, Eを独立変数，Fを従属変数とした重回帰分析を行うと，C以外は全て回帰係数が有意になりました。
相関係数が有意でないのに，回帰係数が有意になることはあるのでしょうか？
どのように解釈すればよろしいでしょうか？

ご回答よろしくお願い致します。

　　　　　[このページのトップへ]

8574.　Re: 相関係数と回帰係数について　青木繁伸　　2005/12/05 (月) 22:01

シミュレーションすると，簡単に例を作れますね。

> set.seed(12345)
> r0 <- 0
> r <- tri.mat(c(1,r0,1,0.6,0.55,1),3)
> d <- data.frame(round(gendat(10, r)-10, 1))
> colnames(d) <- c("x1", "x2", "y")
> print(d)
x1 x2 y
1 -9.7 -9.0 -8.6
2 -11.1 -7.8 -9.8
3 -9.7 -10.2 -10.4
4 -9.6 -10.8 -11.3
5 -8.3 -10.1 -9.2
6 -11.8 -11.4 -11.3
7 -8.7 -9.8 -8.5
8 -9.9 -10.3 -9.4
9 -10.8 -9.6 -10.6
10 -10.3 -11.1 -10.9

相関係数行列
> print(cor(d))
x1 x2 y
x1 1.000000000 0.009055789 0.5999468
x2 0.009055789 1.000000000 0.5584246
y 0.599946776 0.558424571 1.0000000

y との単相間はいずれも有意ではない

> print(cor.test(d$x1, d$y))
ピアソンの積率相関係数

データ: d$x1 と d$y
t値 = 2.121, 自由度 = 8, P値 = 0.06672
対立仮説: 母相関は，0ではない
95 パーセント信頼区間: -0.04769651 0.89245507
標本推定値:
相関係数
0.5999468

> print(cor.test(d$x2, d$y))
ピアソンの積率相関係数

データ: d$x2 と d$y
t値 = 1.904, 自由度 = 8, P値 = 0.0934
対立仮説: 母相関は，0ではない
95 パーセント信頼区間: -0.1098112 0.8789967
標本推定値:
相関係数
0.5584246

> ans <- lm(y~x1+x2, d)
> print(summary(ans))

Call:
lm(formula = y ~ x1 + x2, data = d)

Residuals:
Min 1Q Median 3Q Max
-1.0940 -0.3607 -0.1317 0.6008 0.7070

偏回帰係数はいずれも有意

Coefficients:
Estimate Std. Error t value Pr(>|t|)
(Intercept) 1.4273 3.0705 0.465 0.6562
x1 0.5905 0.2169 2.723 0.0297 *
x2 0.5522 0.2182 2.531 0.0392 *
---
Signif. codes: 0 ‘***’ 0.001 ‘**’ 0.01 ‘*’ 0.05 ‘.’ 0.1 ‘ ’ 1

Residual standard error: 0.6896 on 7 degrees of freedom
Multiple R-Squared: 0.6658, Adjusted R-squared: 0.5703
F-statistic: 6.972 on 2 and 7 DF, p-value: 0.02159

　　　　　[このページのトップへ]

8577.　Re^2: 相関係数と回帰係数について　青木繁伸　　2005/12/05 (月) 22:04

独立変数間の相関(r0)をいろいろ変えてみると良い。

r0=0 のときが，先に示した結果。
だから，多重共線性のせいではない。

先ほどのプログラムの gendat は
http://aoki2.si.gunma-u.ac.jp/R/gendat.html
にあるもの。

　　　　　[このページのトップへ]

8573.　Re: 相関係数と回帰係数について　cricket　　2005/12/05 (月) 21:39

奥野ら(1971)『多変量解析法』4.3章によりますと，2つの独立変数の場合（y=m+b1*x1+b2*x2），x1と x2の相関がゼロなら標準偏回帰係数は相関係数にピタリ等しいが，この相関が大きくなると食い違っていき，相関が非常に大きいときは符号が逆になることすらあると述べています。
　どうやら今回のケースでは独立変数同士の相関が強いことがポイントなんじゃないでしょうか。はっきりしなくてすいませんが。

　偏回帰係数は他の変数の影響を除去した後に残った残差を用いた回帰ですから，単回帰（単相関）の目的からはかなり外れていますね。解釈にも注意が必要です。

　　　　　[このページのトップへ]

8568.　Re: 相関係数と回帰係数について　青木繁伸　　2005/12/05 (月) 18:03

解析プログラムは何をお使いでしょうか。

しかるべきソフトを使って，分析を間違えていなければ，出てきた結果を信じるしかないですね。

私はこのようなことを経験したことはないです。
どなたか，フォローを。

　　　　　[このページのトップへ]

8585.　Re^2: 相関係数と回帰係数について　sb　　2005/12/06 (火) 11:25

相関係数は，1つの直線に如何に”行儀よく”並んでいるかの指標

回帰係数は，”傾き”の指標，と理解しています。

となると4つの場合が考えられます。質問者の場合は，その内の1つです。

　　　　　[このページのトップへ]