「統計学関連なんでもあり」の過去ログ---003

★ 準ニュートン法（最小値の検討）について ★

　243　準ニュートン法（最小値の検討）について　　HIRAKI　　1999/11/05 (金) 09:32
　　244　Re: 準ニュートン法（最小値の検討）について　　青木繁伸　　1999/11/05 (金) 11:37
　　　245　Re^2: 準ニュートン法（最小値の検討）について　　you　　1999/11/05 (金) 13:46
　　　　246　Re^3: 準ニュートン法（最小値の検討）について　　青木繁伸　　1999/11/05 (金) 13:59
　　　　　247　Re^4: 準ニュートン法（最小値の検討）について　　you　　1999/11/05 (金) 14:06

243.　準ニュートン法（最小値の検討）について　　HIRAKI　　1999/11/05 (金) 09:32

青木先生，皆様　こんにちは。

下記のSSが最小となるX1,X2を求めるアルゴリズムを検討したいのですが，準ニュートン法と言う手法で処理を行った方が良いと聞きました。
この準ニュートン法とはどの様なアルゴリズムなのでしょうか?
お教え願えたら幸いです。
また，他の手法等有りましたら，お教え下さい。
何とぞよろしくお願いいたします。

SS=(A-X1)^2 + (B-X2)^2 + (C-X3)^2
但し，X3=X2/X1
定数:A,B,C
変数:X1,X2　(x >=0, x2>=0)

　　　　　[このページのトップへ]

244.　Re: 準ニュートン法（最小値の検討）について　　青木繁伸　　1999/11/05 (金) 11:37

伊里正夫「数値計算」朝倉書店1981
などが参考になろうかと思います。

準ニュートン法とこの本でいっている「減速ニュートン法」というのがたぶん同じだと思います。

ニュートン法（ニュートン・ラフソン法）はf(x)=0の解x=αを求めるときにf'(x)を使って改善値を求めるわけですが，これでは関数によっては局所解が求まったり収束しなかったりということがあるので，改善値を計算するときに改善量を控えめに設定する方法です。いつも控えめにするのではなく，真値に近づいたら普通のニュートン法（控えめにしない）に切り替えるのです。

非線形あてはめにおいては，他にMarquardt法，Simplex法，降下法，連続変形法などたくさんあります。

　　　　　[このページのトップへ]

245.　Re^2: 準ニュートン法（最小値の検討）について　　you　　1999/11/05 (金) 13:46

青木先生　アドバイスありがとうございました。
週末にでも書店で探してみたいと思います。

> ニュートン法（ニュートン・ラフソン法）はf(x)=0の解x=αを求めるときにf'(x)を使って改善値を求めるわけですが，。。。。。。

一つ気になることが有るのですが。。。
SS=(A-x1)+(B-y1)+(C-Z1) で
A,B,C が定数で，X1,y1,z1が変数であれば，極端な所A=x1,B=y1,C=z1 のとき(0に近似した所が）SS が最小値になるのでしょうけど

Z1= x1/y1 という条件が付いた場合，変数が3つあり，その中の1つの変数は他の2つの変数の関数値のときは，SSの最小値を求める場合，どの様に考えるのでしょうか?

　　　　　[このページのトップへ]

246.　Re^3: 準ニュートン法（最小値の検討）について　　青木繁伸　　1999/11/05 (金) 13:59

> Z1= x1/y1 という条件が付いた場合，変数が3つあり，その中の1つの変数は他の2つの変数の関数値のときは，SSの最小値を求める場合，どの様に考えるのでしょうか?

変数は2つなのでは?
Z1= x1/y1　は制約条件じゃないのでは?

　　　　　[このページのトップへ]

247.　Re^4: 準ニュートン法（最小値の検討）について　　you　　1999/11/05 (金) 14:06

失礼しました。。

> 変数は2つなのでは?
> Z1= x1/y1　は制約条件じゃないのでは?

それぞれの項で解を見つけて，それが最小になる方向で考えていました。
大変失礼しました。

　　　　　[このページのトップへ]