「統計学関連なんでもあり」の過去ログ--- 039

No.00986　重回帰分析での実測値と予測値　　【石本】　2006/08/28(Mon) 11:22

大学院生として研究をおこなっております，石本と申します。重回帰分析での実測値と予測値のことで質問させていただきたいことがあり，書き込みさせていただきます。
実測値と予測値との間で相関を解析したときに，傾きが1にはなりません。それはなぜなのでしょうか。ご教授いただきたく存じます。よろしくお願い申し上げます。

No.00990　Re: 重回帰分析での実測値と予測値　　【青木繁伸】　2006/08/28(Mon) 16:58

傾き = 相関係数 × 従属変数の標準偏差 / 独立変数の標準偏差であることに注意

No.01024　Re: 重回帰分析での実測値と予測値　　【ファン】　2006/08/31(Thu) 15:09

実測値 Y の重回帰による予測値（計算値）を Y~ その誤差（残差）を e とすると，関係は
　Y = Y~ + e
。重回帰計算が「切片付き」であれば，標本平均値を m( ) で表すと m(e) = 0 より m(Y) = m(Y~)，また Y~ と e は無相関（共分散ゼロ）。
なので単回帰
　Y = α + βY~ + ε
を推定すると，αの推定値はゼロ，βの推定値は 1，εの推定値は e になる筈ですね。

No.01025　Re: 重回帰分析での実測値と予測値　　【青木繁伸】　2006/08/31(Thu) 15:36

質問者は lm(lm(y~x)$fitted.values~y) を計算したのでしょうね
そうすると，傾きは x, y の相関係数の二乗になるので，完全相関でない限り1よりは小さくなると...
> x <- rnorm(100)
> y <- rnorm(100)
> lm(y~lm(y~x)$fitted.values)

Call:
lm(formula = y ~ lm(y ~ x)$fitted.values)

Coefficients:
            (Intercept)  lm(y ~ x)$fitted.values  
              7.387e-17                1.000e+00  

> lm(lm(y~x)$fitted.values~y)

Call:
lm(formula = lm(y ~ x)$fitted.values ~ y)

Coefficients:
(Intercept)            y  
    0.02780      0.01075  

> cor(x, y)^2
[1] 0.01075301

No.01027　Re: 重回帰分析での実測値と予測値　　【ファン】　2006/09/01(Fri) 15:52

なるほど石本さんが逆の傾きを求めた可能性もありますね。
以下要約。

「切片付き」の重回帰において実測値 Y と予測値 Y~ の間には，標本共分散を c( , )，標本分散を v( ) で表すと
　c(Y, Y~) = c(Y~+e, Y~) = c(Y~, Y~) + c(e, Y~) = v(Y~)
が成立する。これより
独立変数を Y~ 従属変数を Y とする回帰直線の傾き：
　c(Y, Y~) / v(Y~) = v(Y~) / v(Y~) = 1
独立変数を Y 従属変数を Y~ とする回帰直線の傾き：
　c(Y, Y~) / v(Y) = v(Y~) / v(Y) = R^2 （Rは重相関係数）
また前者の切片は恒等的にゼロ，後者の切片は Y が平均ゼロか決定係数 R^2 が 1 の場合を除いてゼロにはならない。