★ 最小絶対値法…? ★

　184　最小絶対値法…?　　kyarako　　2000/01/17 (月) 19:55
　　187　Re: 最小絶対値法…?　　青木繁伸　　2000/01/17 (月) 20:07
　　　188　Re^2: 最小絶対値法…?　　kyarako　　2000/01/17 (月) 20:31
　　　　190　Re^3: 最小絶対値法…?　　青木繁伸　　2000/01/17 (月) 20:51
　　　　　192　Re^4: 最小絶対値法…?　　kyarako　　2000/01/17 (月) 21:22
　　　　　　194　Re^5: 最小絶対値法…?　　青木繁伸　　2000/01/17 (月) 21:40
　　　　　　　196　Re^6: 最小絶対値法…?　　kyarako　　2000/01/17 (月) 21:50
　　　　　　　　199　Re^7: 最小絶対値法…?　　青木繁伸　　2000/01/17 (月) 22:11
　　　　　　　　　202　Re^8: 最小絶対値法…?　　kyarako　　2000/01/17 (月) 22:27
　　　　　　　　　　213　Re^9: 最小絶対値法…?　　青木繁伸　　2000/01/18 (火) 12:55
　　　　　　　　　　　214　Re^10: 最小絶対値法…?　　kyarako　　2000/01/18 (火) 13:08
　　　　　　　　　　　　216　Re^11: 最小絶対値法…?　　青木繁伸　　2000/01/18 (火) 13:51
　　　　　　　　　　　　　221　Re^12: 最小絶対値法…?　　kyarako　　2000/01/18 (火) 14:18
　　　　　　　　　　　　　　222　Re^13: 最小絶対値法…?　　青木繁伸　　2000/01/18 (火) 14:34
　　　　　　　　　201　Re^8: 最小絶対値法…?　　堀　啓造　　2000/01/17 (月) 22:21
　　186　Re: 最小絶対値法…?　　堀　啓造　　2000/01/17 (月) 20:05
　　　191　Re^2: 最小絶対値法…?　　kyarako　　2000/01/17 (月) 20:52

184.　最小絶対値法…?　　kyarako　　2000/01/17 (月) 19:55
前に，最小絶対値法のことを，お尋ねしたんですけど，間違いがありまして…。
絶対値をとるほうが，誤差が小さいと…。
これは，誤差が1以上だった場合でして…。
でも，自分が，考えているのは，誤差が，ほとんど，0.01以下だったんですよね…。
その場合は，二乗するほうが，小さくなるわけで…。

ところで，誤差と考えず，距離と考えた場合でも，絶対値をとる方法は，扱われにくいんでしょうか…?
近似関数を絶対値にした場合についてのコメントを何でも良いので，お願いします。

　　　　　[このページのトップへ]

187.　Re: 最小絶対値法…?　　青木繁伸　　2000/01/17 (月) 20:07
> ところで，誤差と考えず，距離と考えた場合でも，絶対値をとる方法は，扱われにくいんでしょうか…?
> 近似関数を絶対値にした場合についてのコメントを何でも良いので，お願いします。

堀さんのコメントにあったように，大きな違いを重大ととらえるということが二乗和を考える大きな理由です。

そのほかによく言われる理由は，
二乗の方が数学的な取り扱いが容易であること。
そのために，今まで多くの統計学上の知識の蓄積があること。
でしょう。

Σ |Yi-aXi-b|　を最小にするa,b を求めてみるとその面倒くささがわかるでしょう。
# 私はやったことないし，やるつもりもないので申し訳ないです。
# 答えがわかった人は，ここへ投稿してください。(^_^)

　　　　　[このページのトップへ]

188.　Re^2: 最小絶対値法…?　　kyarako　　2000/01/17 (月) 20:31
> 堀さんのコメントにあったように，大きな違いを重大ととらえるということが二乗和を考える大きな理由です。
>
> そのほかによく言われる理由は，
> 二乗の方が数学的な取り扱いが容易であること。
> そのために，今まで多くの統計学上の知識の蓄積があること。
> でしょう。
>
もう少し，詳しく，教えていただけますか?
どういう具合で，取り扱いが容易なのか?など。

　　　　　[このページのトップへ]

190.　Re^3: 最小絶対値法…?　　青木繁伸　　2000/01/17 (月) 20:51
Σ|Yi-aXi-b| をa, b について偏微分するのと
Σ(Yi-aXi-b)~2をa, b について偏微分するのと
どっちが楽かということです。（同じか，もしくは前者が楽かもしれないが）
偏微分の後に，連立方程式を解きますね。

係数は求まるが，その後の発展性がない。
係数の有意性検定，回帰直線の信頼限界，回帰の分散分析，などなど，どれ一つ取っても，そこらの統計学の教科書には載っていない。
そもそも分散分析自体が分散（二乗和）を扱うから...(^_^)

　　　　　[このページのトップへ]

192.　Re^4: 最小絶対値法…?　　kyarako　　2000/01/17 (月) 21:22
> Σ|Yi-aXi-b| をa, b について偏微分するのと
> Σ(Yi-aXi-b)~2をa, b について偏微分するのと
> どっちが楽かということです。（同じか，もしくは前者が楽かもしれないが）
> 偏微分の後に，連立方程式を解きますね。
少し，内容が変わってしまうんですけど，もし，近似関数ではなく，値だった場合，S=��(fi-F)^2(fi:測定値，F:真の値とした場合)を最小とするFを選ぶことにすると，Sは，Fの関数ですよね?だから，SをFで微分して，0とおくことができますよね?そうすると，Fは，fiの平均になりますか?

　　　　　[このページのトップへ]

194.　Re^5: 最小絶対値法…?　　青木繁伸　　2000/01/17 (月) 21:40
> 少し，内容が変わってしまうんですけど，もし，近似関数ではなく，値だった場合，S=��(fi-F)^2(fi:測定値，F:真の値とした場合)を最小とするFを選ぶことにすると，Sは，Fの関数ですよね?だから，SをFで微分して，0とおくことができますよね?そうすると，Fは，fiの平均になりますか?

S= の次にある文字は機種依存（フォント依存）です。
インターネットでは使わないようにしましょう。
というわけで，私の環境ではその字は「中という字を○で囲んだ文字」にしかみえないんです。

いずれにしろ，それは「平均」とはいわないと思います。
算術平均，幾何平均，調和平均，そのいずれでもないようですから。

　　　　　[このページのトップへ]

196.　Re^6: 最小絶対値法…?　　kyarako　　2000/01/17 (月) 21:50
> S= の次にある文字は機種依存（フォント依存）です。
> インターネットでは使わないようにしましょう。
知識不足ですみません。
そういうものがあったんですね。
> いずれにしろ，それは「平均」とはいわないと思います。
> 算術平均，幾何平均，調和平均，そのいずれでもないようですから。
相加平均でもないのですか?
では，もし，相加平均と同じ値が出てきてしまっているのなら，計算ミスかたまたま同じだったということになりますね?
出てきたものに名前がある(名前をつける)なら，なんでしょうか?

　　　　　[このページのトップへ]

199.　Re^7: 最小絶対値法…?　　青木繁伸　　2000/01/17 (月) 22:11
> 相加平均でもないのですか?
> では，もし，相加平均と同じ値が出てきてしまっているのなら，計算ミスかたまたま同じだったということになりますね?
> 出てきたものに名前がある(名前をつける)なら，なんでしょうか?

結局の所，「中を丸で囲んだ文字」は何だったのでしょうか?

S=Σ(fi-F)^2 ですか?
だったら，それは S が変動というものですから，それが最小となる F は算術平均値（相加平均という用語はあまり使わないと思います）ですよ。平均偏差の二乗和が最小となるのが，平均値の性質ですから。そして，平均偏差の二乗の平均値が分散ですから。
#それらは既知の事実です。

#もう帰ります。

　　　　　[このページのトップへ]

202.　Re^8: 最小絶対値法…?　　kyarako　　2000/01/17 (月) 22:27
> 結局の所，「中を丸で囲んだ文字」は何だったのでしょうか?
>
> S=Σ(fi-F)^2 ですか?
はい。
> #もう帰ります。
長い間，お付き合いいただいて，ありがとうございました。
でも，まだ，謎は，続くのです…。
次に，絶対値をとった場合，S=Σ|fi-F|(また，読めないでしょうか?)をFで微分すると，同様に，平均が求まるのでしょうか?
平均というより，fiの個数が奇数なら，メジアン(偶数ならどうなるんでしょう…?)になりますか?
もし，そうなら，Fが関数になった場合も同様(?)なんでしょうか…?
…でも関数になってるわけだから，まったく別のことになってしまうのかな…?
また，『よく，理解していないのでは?』と書かれそうですね。
何が言いたいのかというと，奇数のほうが精度(?)がよくなるのかな?なんて思ったんです。

　　　　　[このページのトップへ]

213.　Re^9: 最小絶対値法…?　　青木繁伸　　2000/01/18 (火) 12:55
> 次に，絶対値をとった場合，S=Σ|fi-F|(また，読めないでしょうか?)をFで微分すると，同様に，平均が求まるのでしょうか?
> 平均というより，fiの個数が奇数なら，メジアン(偶数ならどうなるんでしょう…?)になりますか?

Σ は機種依存ではありません。
これは S-JIS コード 83B0 であり，ギリシア文字のΣです。

�� は機種依存です。（Windows で見ている人は上のと同じに見えるかもしれませんが，両者は別物なんです。）
これは S-JIS コード 8794 ですが，機種（フォントセット）によって割り当てられている外見上の文字は違います。

それはさておき，

ご推察通り，S=Σ|fi-F|を最小にする F は，メディアン（中央値）になります。

> 何が言いたいのかというと，奇数のほうが精度(?)がよくなるのかな?なんて思ったんです。

データの数が偶数のときは S を最小にするのは中央の2つどちらでも同じです。

「F が関数のとき」というのは，意味がよくわかりません。

　　　　　[このページのトップへ]

214.　Re^10: 最小絶対値法…?　　kyarako　　2000/01/18 (火) 13:08
> Σ は機種依存ではありません。
> これは S-JIS コード 83B0 であり，ギリシア文字のΣです。
>
> �� は機種依存です。（Windows で見ている人は上のと同じに見えるかもしれませんが，両者は別物なんです。）
> これは S-JIS コード 8794 ですが，機種（フォントセット）によって割り当てられている外見上の文字は違います。
難しいですね…。
>
> データの数が偶数のときは S を最小にするのは中央の2つどちらでも同じです。
例えば，データ数が，偶数個で，中央の2つが違う場合(0.020と0.022)でも，2つとも当てはまるということですか?
それとも，さらに中央(0.021:データの中にはない)になるのでしょうか?

> 「F が関数のとき」というのは，意味がよくわかりません。
今までの例だとFは値にしてました。
それを関数の形にするというか…(例えば:fi-(Axi+B))
なんとなく分かっていただけたでしょうか?

　　　　　[このページのトップへ]

216.　Re^11: 最小絶対値法…?　　青木繁伸　　2000/01/18 (火) 13:51
> > データの数が偶数のときは S を最小にするのは中央の2つどちらでも同じです。
> 例えば，データ数が，偶数個で，中央の2つが違う場合(0.020と0.022)でも，
> 2つとも当てはまるということですか?

簡単な例を考えればいいです。4つのデータ2,4,7,10において
|2-4|+|4-4|+|7-4|+|10-4| = |2-7|+|4-7|+|7-7|+|10-7| = 11
一般的に a,b,c,d として，数直線を描き，距離の和を考えるといいです。

> それとも，さらに中央(0.021:データの中にはない)になるのでしょうか?

統計学的な中央値は真ん中の二つの数値の平均値を取るように定義されています。

中央値の候補に同値がある場合はもうちょっと面倒な手続きをとることがあります。

> > 「F が関数のとき」というのは，意味がよくわかりません。
> 今までの例だとFは値にしてました。
> それを関数の形にするというか…(例えば:fi-(Axi+B))
> なんとなく分かっていただけたでしょうか?

「点のまんなかあたりを通る」という文字通りの意味になると思います。散布図を見せられて「計算などをしないで，これらの点のなるべく近くを通る直線を引きなさい」と指示されたときに引く線に近くなると思います。

　　　　　[このページのトップへ]

221.　Re^12: 最小絶対値法…?　　kyarako　　2000/01/18 (火) 14:18
長い時間，丁寧に教えていただき，ありがとうございました。
今までの謎が，少しずつ消えていく気がします。
今までのやり取りのおかげで，考え方が，ずいぶん変わった気がします。
また謎にぶつかったときは，よろしくお願いします。

　　　　　[このページのトップへ]

222.　Re^13: 最小絶対値法…?　　青木繁伸　　2000/01/18 (火) 14:34
> 今までのやり取りのおかげで，考え方が，ずいぶん変わった気がします。

まとめとして，計算例の図を示しておきましょう。
参考図
「全ての点の近くを通るように」とめのこで描く直線は，最小二乗法による回帰直線よりは，予測誤差の絶対値の和を最小とするような直線の方に近いかな?

いろいろなデータセットでやってみたところでは（外れ値などがない場合には特に?），両者の直線はよく似ています（傾き，切片）。とすれば，理論的な蓄積の多い最小二乗法を採用するのが無難でしょうね。

　　　　　[このページのトップへ]

201.　Re^8: 最小絶対値法…?　　堀　啓造　　2000/01/17 (月) 22:21
> 結局の所，「中を丸で囲んだ文字」は何だったのでしょうか?
>
> S=Σ(fi-F)^2 ですか?

そうです。

　　　　　[このページのトップへ]

186.　Re: 最小絶対値法…?　　堀　啓造　　2000/01/17 (月) 20:05
> 前に，最小絶対値法のことを，お尋ねしたんですけど，間違いがありまして…。
> 絶対値をとるほうが，誤差が小さいと…。
> これは，誤差が1以上だった場合でして…。
> でも，自分が，考えているのは，誤差が，ほとんど，0.01以下だったんですよね…。
> その場合は，二乗するほうが，小さくなるわけで…。

どっちにしたって二乗するほうが，誤差の大きいものと小さいものの評価の違いは二乗するほうが誤差の大きいものを重視していることに変わりありません。

　　　　　[このページのトップへ]

191.　Re^2: 最小絶対値法…?　　kyarako　　2000/01/17 (月) 20:52
> どっちにしたって二乗するほうが，誤差の大きいものと小さいものの評価の違いは二乗するほうが誤差の大きいものを重視していることに変わりありません。
…ということは，誤差の小さいものを軽く見ているということですよね?
誤差の，大きいものに近似される直線が影響を受けるということですか?
(誤差の大きいものがあると，傾きが大きくなるということ?)

　　　　　[このページのトップへ]

● 「統計学関連なんでもあり」の過去ログ--- 005 の目次へジャンプ
● 「統計学関連なんでもあり」の目次へジャンプ
● 直前のページへ戻る