「統計学関連なんでもあり」の過去ログ---016

★ 重みづけしない最小二乗法vs重みつき最小二乗法 ★

163.　重みづけしない最小二乗法vs重みつき最小二乗法　　ゆき　　2001/11/12 (月) 12:33

因子分析において，因子負荷量を推定する方法の一つに「最小二乗法」がありますが，SPSSでは「一般化した最小二乗法」「重み付けのない最小二乗法」が選択できるようになっています．
「一般化した（重みつき）最小二乗法は，最小二乗法を発展させたもの（「Q＆Aで知る統計データ解析」より）」とありますが，どういう意味で発展的なのでしょうか？また，この２つの使い分けはどのように考えたらいいのでしょうか．
最尤法では観測変数の多変量正規分布を仮定していますが，最小二乗法においても同様でしょうか？
勉強不足でつたない質問になっているかと思いますが，どうぞよろしくお願いいたします．

　　　　　[このページのトップへ]

175.　Re: 重みづけしない最小二乗法vs重みつき最小二乗法　　青木繁伸　　2001/11/13 (火) 15:03

関係あるかどうかわかりませんが，堀先生のページに以下のような記事がありました。
http://www.ec.kagawa-u.ac.jp/~hori/spss/tokidoki.html
SPSS ときど記(4)　2000/4/8
因子分析　重みなし最小２乗→重み付け最小２乗

　　　　　[このページのトップへ]

182.　Re^2: 重みづけしない最小二乗法vs重みつき最小二乗法　　ゆき　　2001/11/14 (水) 09:59

> 関係あるかどうかわかりませんが，堀先生のページに以下のような記事がありました。

上記の堀先生のページ，興味深い話題が多いです．主としてSPSSを使っている現在の（私の）研究室環境においては，欠かせないものかもしれません．

　　　　　[このページのトップへ]

174.　Re: 重みづけしない最小二乗法vs重みつき最小二乗法　　pspp　　2001/11/13 (火) 10:01

因子分析の本を読むと，ＧＬＳはＵＬＳではできない統計的推測ができるという意味で，統計学的な発展をしているようです．ＵＬＳは記述的方法に過ぎないけれど．ＧＬＳやＭＬでは，モデルとデータとの適合度検定ができるし，因子負荷の標準誤差がわかる．それのどこがいいんだ，といわれると困りますが，因子負荷が０．４より大きいからいい，なんて言って来た議論の根拠が，ちゃんと標準誤差に照らして検討できるのは発展ですよね．ＭＬで不適解になってもＧＬＳで適解になることも多いそうですが，なぜでしょうかね？．独自因子の分散の逆数の平方根を重みにするか，Ｓの逆数にするか，の違いですか？？？
ＵＬＳは昔の先行研究のチェックをする時に使うのではないでしょうか．現在の自分の研究ではＭＬやＧＬＳを使いますよね．ＵＬＳとかは歴史的経緯のためにＳＰＳＳに入っているんでしょう．

> 最尤法では観測変数の多変量正規分布を仮定していますが，最小二乗法においても同様でしょうか？

いいえ

　　　　　[このページのトップへ]

181.　Re^2: 重みづけしない最小二乗法vs重みつき最小二乗法　　ゆき　　2001/11/14 (水) 09:44

psppさん，どうもありがとうございます．

> ＵＬＳは記述的方法に過ぎないけれど．ＧＬＳやＭＬでは，モデルとデータとの適合度検定ができるし，因子負荷の標準誤差がわかる．それのどこがいいんだ，といわれると困りますが，ちゃんと標準誤差に照らして検討できるのは発展ですよね．

とてもよくわかります．ありがとうございます．
こうした根拠づけができるというのは非常に発展的です．
特に，分析する際に扱いに苦しいデータを扱っている際には…（誤用だという声が聞こえてきそうです…ごめんなさい）

> ＵＬＳは昔の先行研究のチェックをする時に使うのではないでしょうか．現在の自分の研究ではＭＬやＧＬＳを使いますよね．ＵＬＳとかは歴史的経緯のためにＳＰＳＳに入っているんでしょう．

なるほど，これも納得しやすいです．

> > ，最小二乗法においても同様でしょうか？

> いいえ

別のスレッドに最尤法と最小二乗法の話題が出ていますね．
よくわかっていないので，あまり理解できていません．
もう少し，勉強しなおします．ありがとうございます．

　　　　　[このページのトップへ]

166.　Re: 重みづけしない最小二乗法vs重みつき最小二乗法　　青木繁伸　　2001/11/12 (月) 21:18

私自身SPSSで取り上げられている分析手法の具体的内容はよく知らないのですが（使わないから知る必要がない），「どういう意味で発展的か」というのは，重み付けしたということでしょう。使い分けは，一般的（重み付けした）方法を使うのが常に優れていそうに思います。

別のスレッドにありましたが，斜交解と直交解どちらを選択するかという問題で，斜交解を使いなさい，その理由は，もし本当の解が直交解であれば，斜交解で分析したら，因子間の相関が0に近くなるだけでしょう。逆に因子間の相関が0でない場合に直交解を求めた場合には，その解の正当性が保証できない。ということと似ているのではないですか。

重み付けで分析したとき，結果的に重みがほとんど１に近ければ重み付けしなくてもいいのだというのが分かるが，逆に重みが違うときに重みが等しいとした旧来の方法を使うと，その結果自体が信用できない。

あるアプリケーションのある方法を採用するとき，なぜそれを採用するのか，どういうときそれを採用しなければならないのか，アプリケーションの販売者はなぜ情報を提供していないのでしょうか。大変不思議です。

　　　　　[このページのトップへ]

171.　Re^2: 重みづけしない最小二乗法vs重みつき最小二乗法　　ゆき　　2001/11/12 (月) 22:47

青木先生，どうもありがとうございました．この数週間，悩んで調べて結局わからなくて堂々巡りしていたことが，あっさり解決しました．

> あるアプリケーションのある方法を採用するとき，なぜそれを採用するのか，どういうときそれを採用しなければならないのか，アプリケーションの販売者はなぜ情報を提供していないのでしょうか。大変不思議です。

本当にそう思います．
SPSSの講習会（とても高い講習料金！）に行けば教えてもらえるのでしょうか…？

SPSSを使っていて疑問に思うことはいくつもあって，他には，
たとえば，主成分分析で２成分以上抽出した場合は直交回転も斜交回転にもかけることができるのですが，これも，私にはよくわかりません．
本来の主成分分析の目的からははずれているように思ってしまうのですが…？
（これは単に主成分分析で回転させているの文献を見た事がないからなので，あまり根拠のない発言です）．

　　　　　[このページのトップへ]

167.　Re^2: 重みづけしない最小二乗法vs重みつき最小二乗法　　青木繁伸　　2001/11/12 (月) 21:33

> 私自身SPSSで取り上げられている分析手法の具体的内容はよく知らないのですが（使わないから知る必要がない），「どういう意味で発展的か」というのは，重み付けしたということでしょう。使い分けは，一般的（重み付けした）方法を使うのが常に優れていそうに思います。

これも別のスレッドにありましたが，カイ二乗検とフィッシャーの正確確率検定，Cutler-Edere 法と Kaplan-Meyer 法による生命表，主因子法と最尤法の関係も同じです。
その他にも，有意確率による検定と臨界値による検定，正規近似による検定法と正確な方法による検定など。

昔は，計算が複雑だからと言うことで近似解とか漸近近似による方法，より計算の楽な方法というのが教科書にあふれていました。
コンピュータにより計算が簡単になった今日，簡単だとか近似的な方法とかは捨ててしまえばいいのです。

　　　　　[このページのトップへ]

168.　Re^3: 重みづけしない最小二乗法vs重みつき最小二乗法　　sb812109　　2001/11/12 (月) 22:23

> コンピュータにより計算が簡単になった今日，簡単だとか
> 近似的な方法とかは捨ててしまえばいいのです。

賛成。

　　　　　[このページのトップへ]