「統計学関連なんでもあり」の過去ログ---006

★ 回帰モデルの根拠 ★

　124　回帰モデルの根拠　　masa　　2000/01/30 (日) 00:20
　　134　Re: 回帰モデルの根拠　　ひの　　2000/01/30 (日) 16:58
　　　136　Re^2: 回帰モデルの根拠　　マンボウ　　2000/01/30 (日) 20:42
　　　　146　Re^3: 回帰モデルの根拠　　ひの　　2000/01/30 (日) 23:52
　　　　　149　Re^4: 大きい誤差　　masa　　2000/01/31 (月) 01:09
　　　　　　174　Re^5: 大きい誤差　　ひの　　2000/01/31 (月) 20:02
　　131　Re: 回帰モデルの根拠　　マンボウ　　2000/01/30 (日) 14:30

124.　回帰モデルの根拠　　masa　　2000/01/30 (日) 00:20

　物理的な（ある力とそれにより発生する現象）の予測モデルを考える場合（おおよそ，正の相関），その回帰式は通常，直線，二次とやっていくのが定石だと思いますが，多項式回帰において，次数を上げれば当然，残差平方和は小さくなります。よって，それを予測する上で，それに回帰した根拠がほしいのですが，それが見つかりません。通常はAICやRの2乗を使うと思いますが，その他に関して予測回帰の方法や根拠などがありましたらアドバイスを頂きたいです。よろしくお願いします。

　　　　　[このページのトップへ]

134.　Re: 回帰モデルの根拠　　ひの　　2000/01/30 (日) 16:58

多項式近似はやったことがないので分かりませんが，単項式で1乗に比例するか2乗に比例するかあるいは3乗に比例するかということを問題にするには，Y=aX^b の形で回帰して，bの値を見れば何乗に比例しているのか知る事ができます。

　　　　　[このページのトップへ]

136.　Re^2: 回帰モデルの根拠　　マンボウ　　2000/01/30 (日) 20:42

確かにそうなんですが，

「理論的にべき乗関数が当てはまる」という確信がない場合には，得られた結果は一般的な信頼が得られる保証がないのだと思います。

たとえば，真のモデルが y=ax^b+cx+d とすると，観察値から y=ax^b というモデルにあてはめたときに，b が正確に（実用に足る精度をもって）予測できるとは限らないと思うのです。

　　　　　[このページのトップへ]

146.　Re^3: 回帰モデルの根拠　　ひの　　2000/01/30 (日) 23:52

> 「理論的にべき乗関数が当てはまる」という確信がない場合には，得られた結果は一般的な信頼が得られる保証がないのだと思います。

もちろんその通りで，私の示した方法は真の関係が多項式であるような場合には当てはまりません。二次の多項式なのか3次の多項式なのかが事前に全く予測できないような状況が私には想像できなかったので，単項式のケースについて示しました。

　　　　　[このページのトップへ]

149.　Re^4: 大きい誤差　　masa　　2000/01/31 (月) 01:09

　予測式は当然残差がもっとも小さくなるようにして作るものですが，もし，どうみても，この特異点により，回帰式が変化する場合にどんな基準でその特異点を考慮しないつまり，消去することが可能なのでしょうか。実際のデータ解析においては，特異点や，欠損値を省くということはしてはいけないことだと思いますが，一般常識では，正の相関があるような現象なのです。回帰式に悪い影響を与える点は削除してもよいのでしょうか。また，予測を前もって考える場合，常識（例えばその現象が正の相関か負の相関かなど）をどれくらい予測式に反映させて良いのでしょうか。

　　　　　[このページのトップへ]

174.　Re^5: 大きい誤差　　ひの　　2000/01/31 (月) 20:02

異常値の扱いについては，少し古い本ですが，

　チャタジー&プライス　「回帰分析の実際」　新曜社

の第2章が参考になると思います。実例に即して書かれているのでわかりやすい本です。ただし扱われているのは線形回帰のみです。私も購入したのは最近なので，まだ入手できると思います。

　　　　　[このページのトップへ]

131.　Re: 回帰モデルの根拠　　マンボウ　　2000/01/30 (日) 14:30

予測式の根拠は，そのデータの発生機序を考えるべきです。

多項式で次数を上げていくというのは，「予測式」でなくて「多項式近似式」です。

　　　　　[このページのトップへ]