「統計学関連なんでもあり」の過去ログ---013

★ (線形)回帰モデルとプロビット/ロジットモデル ★

　168　(線形)回帰モデルとプロビット/ロジットモデル　　あき　　2001/03/29 (木) 18:17
　　188　Re: (線形)回帰モデルとプロビット/ロジットモデル　　DISIR　　2001/04/02 (月) 13:26
　　　189　Re^2: (線形)回帰モデルとプロビット/ロジットモデル　　あき　　2001/04/02 (月) 14:23
　　184　Re: (線形)回帰モデルとプロビット/ロジットモデル　　ひの　　2001/03/31 (土) 23:31
　　　187　Re^2: (線形)回帰モデルとプロビット/ロジットモデル　　あき　　2001/04/02 (月) 11:10
　　　　192　Re^3: (線形)回帰モデルとプロビット/ロジットモデル　　ひの　　2001/04/02 (月) 20:50
　　　　　194　Re^4: (線形)回帰モデルとプロビット/ロジットモデル　　あき　　2001/04/03 (火) 10:23

168.　(線形)回帰モデルとプロビット/ロジットモデル　　あき　　2001/03/29 (木) 18:17

モデルの推定方法の違いについてお聞きします。

通常の，線形の回帰分析(単回帰，重回帰)の場合，モデルの推定には最小自乗法が用いられますが，プロビットモデルやロジットモデルの場合，最尤法がモデルの推定方法として用いられます。
どちらも「回帰分析」という意味では類似した分析手法と思いますが，モデルの推定方法が異なるのはなぜでしょうか。

めちゃくちゃ素人の質問と思いますが，よろしくお願いします・・・。

　　　　　[このページのトップへ]

188.　Re: (線形)回帰モデルとプロビット/ロジットモデル　　DISIR　　2001/04/02 (月) 13:26

> モデルの推定方法の違いについてお聞きします。

毒性試験でプロビット法を用いる際には，最尤法以外に，SASなどで採用されている非線形型最小二乗法があって，どちらもよく使われています（図表を利用するLitchfield-Wilcoxon法というのも昔は使っていた）。

　　　　　[このページのトップへ]

189.　Re^2: (線形)回帰モデルとプロビット/ロジットモデル　　あき　　2001/04/02 (月) 14:23

> 毒性試験でプロビット法を用いる際には，最尤法以外に，SASなどで採用されている非線形型最小二乗法があって，どちらもよく使われています（図表を利用するLitchfield-Wilcoxon法というのも昔は使っていた）。

DISIRさん，ありがとうございます。
では，最尤法と非線形最小二乗法とはどのように使い分けられているのでしょうか?こういうケースでは非線形最小二乗法の方がよい，といった基準のような考え方などというものはあるのでしょうか?
あと，私はSASではなくSPSSユーザーなので，SPSSの方で，そのようにモデルの推定方法を選択できる箇所，というのがあれば知りたいのですが・・・。どなたかご存知の方がいらっしゃれば，教えていただければと思います。

　　　　　[このページのトップへ]

184.　Re: (線形)回帰モデルとプロビット/ロジットモデル　　ひの　　2001/03/31 (土) 23:31

> 通常の，線形の回帰分析(単回帰，重回帰)の場合，モデルの推定には最小自乗法が用いられますが，プロビットモデルやロジットモデルの場合，最尤法がモデルの推定方法として用いられます。どちらも「回帰分析」という意味では類似した分析手法と思いますが，モデルの推定方法が異なるのはなぜでしょうか。

　最小二乗法は誤差が正規分布する時の最尤法です。誤差の分布が正規分布でない時には最尤法は最小二乗法とは異なる方法になります。

　　　　　[このページのトップへ]

187.　Re^2: (線形)回帰モデルとプロビット/ロジットモデル　　あき　　2001/04/02 (月) 11:10

> 　最小二乗法は誤差が正規分布する時の最尤法です。誤差の分布が正規分布でない時には最尤法は最小二乗法とは異なる方法になります。

ひのさん，ありがとうございます。
ですが，もう少々重ねて質問させていただいてよろしいでしょうか?
というのは，プロビットモデルを紹介した文献(「自然科学の統計学」東京大学出版会)には，プロビットモデルは誤差項が標準正規分布に従うとするものである，という記述があります。つまり，言葉の上からは，線形回帰モデルもプロビットモデルも，「誤差項が(標準)正規分布に従う」としているように思えるのです。これはどこに違いがあるのでしょうか?
あるいは，ここの掲示板のログの中に，
「誤差が正規分布するなどの幾つかの条件が満たされる場合にはこれ(=最小二乗法:※筆者注)が最尤推定法になります。」
というひのさんの記述を見つけたのですが，この「幾つかの条件」というところに秘密があるのでしょうか?
もう少し踏み込んだ説明がいただければ，と思います。
いかがでしょうか。

　　　　　[このページのトップへ]

192.　Re^3: (線形)回帰モデルとプロビット/ロジットモデル　　ひの　　2001/04/02 (月) 20:50

> というひのさんの記述を見つけたのですが，この「幾つかの条件」というところに秘密があるのでしょうか?

中川・小柳(1982)「最小二乗法による実験データ解析」東京大学出版会によると，

(1)測定値の誤差には偏りがない
(2)測定値の誤差の分散は既知である
(3)各測定は互いに独立であり共分散は0である
(4)誤差の分布形は正規分布である
(5)m個(m<n)のパラメータを含むモデルが知られていて測定量の真の値を近似誤差なく再現することのできるパラメータの組が存在する。

最小二乗法はこれら5つの前提のもとでの最尤推定法です。このままでは条件が厳しすぎるので，実際には(2)などは少し緩和して使います。

　　　　　[このページのトップへ]

194.　Re^4: (線形)回帰モデルとプロビット/ロジットモデル　　あき　　2001/04/03 (火) 10:23

ひのさん，ありがとうございました。
完全に理解したわけではもちろんありませんが，手がかりは得られました。ですので，まずはひのさんの参照されていた本(中川・小柳(1982)「最小二乗法による実験データ解析」東京大学出版会)を読んで，もっと深い理解にチャレンジしてみるつもりです。
もし，分からないことが出てきたら，またここで質問させていただくかもしれませんが・・・。その際には(みなさん)よろしくお願いします。(甘え過ぎ!?)

　　　　　[このページのトップへ]