「統計学関連なんでもあり」の過去ログ--- 044

No.15347　線形回帰分析のP値とR値の関係　　【理系学生I】　2011/09/08(Thu) 16:32

はじめまして。

現在線形回帰分析によって，ある変数を説明する変数の検索を行っています。

そこでまず単変量回帰を行ったところ，切片と傾きが求められ，相関係数であるr値や説明変数のP値などが得られたのですが，なぜかこのr値と説明変数のP値の間の関係が一致しません。

初歩的な質問で恐縮ですが，単変量回帰を行って算出されたr値やP値は全く別々のものなのでしょうか？それとも何か他の原因が考えられるのでしょうか？

よろしくお願いします。

No.15348　Re: 線形回帰分析のP値とR値の関係　　【青木繁伸】　2011/09/08(Thu) 18:03

> r値と説明変数のP値の間の関係が一致しません

何と何が一致しないのですか。
「r値と説明変数のP値の間の関係」ってどのようなものだと思っているのでしょうか?
記事タイトルでは R，本文では r。同じものを意図しているのでしょうか。別のものを表しているのでしょうか。

> 単変量回帰を行って算出されたr値やP値は全く別々のものなのでしょうか？それとも何か他の原因が考えられるのでしょうか？

相関係数の検定と単回帰の独立変数の偏回帰係数の検定が同じにならないといっているのでしょうか?同じになるはずですが。ならないとすれば，何らかの操作ミス。あるいは，あなたの勘違い。
あるいは，あなたが使ったソフトのバグ（そんな馬鹿な，ねぇ）

質問の意味が読み取れません。

以下のデータをあなたが使ったソフトで分析して，以下の結果と比較してみて下さい。
    x  y
1  39 44
2  34 31
3  44 48
4  60 57
5  26 33
6  42 42
7  41 27
8  45 50
9  43 40
10 25 28
=========================================================
> cor.test(x, y) # 相関係数の検定
Pearson's product-moment correlation
data:  x and y 
t = 3.9113, df = 8, p-value = 0.004473 # 母相関係数の検定結果
sample estimates:
      cor 
0.8103243 # ピアソンの積率相関係数
=========================================================
> summary(lm(y~x)) # 直線回帰
Coefficients:
            Estimate Std. Error t value Pr(>|t|)   
(Intercept)   7.6132     8.5144   0.894  0.39734   
x             0.8117     0.2075   3.911  0.00447 ** # 偏回帰係数の検定結果

Multiple R-squared: 0.6566,	Adjusted R-squared: 0.6137
# Multiple R-squared の平方根をとったものが，
# 独立変数と従属変数の相関係数の絶対値を取ったものに等しい
# √0.6566 ≒ 0.8103086 = ピアソンの積率相関係数
# ≒ としたのは，表示されている数値を利用したからであって，有効精度においては「等しい」

No.15349　Re: 線形回帰分析のP値とR値の関係　　【理系学生I】　2011/09/09(Fri) 02:45

回答ありがとうございます。
青木先生のデータを用いて分析を行ったところ，同様な結果が得られました。

僕の質問では，青木先生のデータの所のP=0.00447とR2=0.6566の結果が明らかに合わない結果が出てしまったので，(検体数が100くらいでP=0.002に比べR2=0.09とかなり相関が低い結果が得られました)，なぜかわからず質問しました。

計算が間違ってないってことはこのp値とR2値の関係はおかしくないものでしょうか？

何度もすみませんが回答よろしくお願いします。

No.15350　Re: 線形回帰分析のP値とR値の関係　　【青木繁伸】　2011/09/09(Fri) 09:28

R2=0.09 ということは，相関係数は sqrt(0.09)=0.3 ということです。サンプルサイズ 100 で母相関係数の検定を行うと p-value=0.002426 となるのは，当然のこと，間違いではない。

検定というものはそもそも，対象とする統計量の大きさと同時にサンプルサイズにも影響されるのです。
以下を参照のこと。
http://aoki2.si.gunma-u.ac.jp/Hanasi/StatTalk/jissainoimi.html