「統計学関連なんでもあり」の過去ログ---010

★ 最小2乗法について教えてください ★

　123　最小2乗法について教えてください　　ひわひわ　　2000/09/23 (土) 21:42
　　130　Re: 最小2乗法について教えてください　　GrowHair　　2000/09/25 (月) 14:28
　　124　Re: 最小2乗法について教えてください　　ひの　　2000/09/23 (土) 23:56
　　　126　Re^2: 最小2乗法について教えてください　　ひわひわ　　2000/09/24 (日) 22:36

123.　最小2乗法について教えてください　　ひわひわ　　2000/09/23 (土) 21:42

σ=Eεの関係式に関して，測定値（σi,εi）より最小2乗法を用いてEを求める。
　　（σi,εi）は既知なので，i番目の測定値に対するEiは，Ei=σi/εiなので
　　　Ei-Eなる誤差を考える場合と，
　　（σi,εi）からの誤差をσi-Eεiとを考えて，最小2乗法を用いてEを求める場合，結果が違ってきますが，どう違い，どちらの方がなぜよいのか教えていただきたいのですが。よろしくお願いします。

　　　　　[このページのトップへ]

130.　Re: 最小2乗法について教えてください　　GrowHair　　2000/09/25 (月) 14:28

通りすがりですが。

「y = a x なる関係が想定されるデータ (x_i, y_i) から a を求める」という問題ですね。

(1) E = Σ (y_i - a x_i)^2 を最小にする a を求める。
これは x から y への因果関係が想定されるときに用います。
y は x の関数で表されるはずだという前提があるので，x-y 平面上で各データから y 軸に平行に下ろした直線が関数へぶつかるまでの距離が誤差とみなされます。
逆の因果関係なら
E = Σ (x_i - b y_i)^2 を最小にする b を求め，その逆数を a とします。
(2) 原点まわりの共分散行列で主成分分析する。
x と y の間に因果関係が想定されない場合はこれがおすすめ。
原点を通る直線へ向かって，各データから下ろした垂線の足までの距離を誤差と考え，その 2 乗和を最小にします。具体的には平均値の代りに値 0 を用いて共分散行列を求め，その最大固有値に対する固有ベクトルを
(x_P, y_P) として， a = y_P / x_P です。
(3) y_i / x_i の平均値を a とする。
理由はよく表現できないけど，気持ちが悪い。原点から遠くにあるデータが軽んじられてる気がする。

　　　　　[このページのトップへ]

124.　Re: 最小2乗法について教えてください　　ひの　　2000/09/23 (土) 23:56

σに誤差がなくEに誤差がある場合にはEi-Eなる誤差を考えて解き，Eεに誤差がなくσに誤差がある場合にはσi-σなる誤差を考えて解きます。σとEの両方に誤差がある場合にはややこしいことになります。両差の誤差の比が分かっていないと解けません。でも片方の誤差はないものとみなして強引に計算されてしまうことが多いようですね。

　　　　　[このページのトップへ]

126.　Re^2: 最小2乗法について教えてください　　ひわひわ　　2000/09/24 (日) 22:36

ひのさん，ありがとうございます。2つの違いは，分かりましたが，どのようなときにこちらの方を採用した方が良いかなど，使い分の仕方が，今ひとつよく分かりません。ご教授の程よろしくお願いします。

　　　　　[このページのトップへ]