「統計学関連なんでもあり」の過去ログ--- 039

No.02240　因子分析における観測変数の選定について　　【コンスタンチン】　2007/01/13(Sat) 17:09

初めてご相談をいたします。
因子分析においては，事前に各観測変数間の相関係数を求め，その絶対値が大きすぎるものがあった場合にはいずれかの観測変数を除去する必要があると聞いた記憶があるのですが，その通りでしょうか。
その通りであった場合，その相関係数の目安はどの程度なのでしょうか。また，それに基づいて観測変数除去の作業を行う場合に，気をつけるべきことはありますでしょうか。
ご教示くださいますようお願い申し上げます。
過去の記事を検索したつもりではおりますが，重複していましたら何卒ご容赦ください。

No.02243　Re: 因子分析における観測変数の選定について　　【青木繁伸】　2007/01/13(Sat) 17:50

単に二変数間の関係ではないと思いますので，どちらかを削って良いとは思えません。
具体的に考えれば， a:b が相関が高くて，aはx,y,z と相関が高いが b は u,v,w と相関が高い等という場合（そんな場合が実際にあるかどうかは分かりませんが，a, b が疑似相関なら，大いにあり得るのではないかと思います）に，a, b のいずれを除くのも不適切ではないでしょうか?

因子分析を行って，同じ因子に同程度の大きな因子負荷量を持つ変数であれば（そして，意味的に考えても，同質な変数であれば）どちらかで代表させるのも良いかと思います。

No.02246　ご回答のお礼　　【コンスタンチン】　2007/01/13(Sat) 17:58

青木先生
早速ご回答くださいましてどうもありがとうございました。理解できたつもりでおります。
取り急ぎ，お礼申し上げます。

No.02250　因子分析における観測変数の選定について(その2)　　【コンスタンチン】　2007/01/13(Sat) 19:25

度々申し訳ございません。
最初の質問で触れた，相関係数に基づく観測変数除去の狙いとして聞いたことを思いだしましたので，改めてご相談をいたします。

対象物のある要素(例えば，「色」)に関する観測変数の数が，他の要素(例えば，「形状」)のその数よりも多い場合，その観測変数の数の差ゆえに前者に関連するものが因子として抽出されてしまうということを懸念する必要はありますでしょうか。それを回避する為に，相関係数が大きすぎる観測変数の組が存在した場合にはその一方を除去し，特定要素に関する観測変数だけが多くなりすぎないようにするということであったと思います。

相関係数に基づく変数除去が望ましくないことについては理解できたつもりでおりますが，因子分析において上に記載したようなことを考慮する必要があるのか，ある場合に，対処策としてどのような処理を行うのが望ましいのかを教えていただきたく存じます。

何卒よろしくお願い申し上げます。

No.02251　Re: 因子分析における観測変数の選定について　　【青木繁伸】　2007/01/13(Sat) 19:32

抽出される因子は，分析対象とされる変数のセットに依存するのは明らかです。
というか，ある因子を表す変数が分析対象に入っていなければそんな因子が抽出されるわけがありません。
また，ある因子を表す変数ばっかりが分析対象に入っていると，一因子しか抽出されないかもしれないし，もしかしたらほんの些細な違いを抽出して複数の因子が抽出されてしまうかもしれませんね。
だからといって，分析の前に恣意的に変数の追加・除去を行うことが正しいとは言えないと思います。人間の判断が分析より優れているなら，多変量解析など不要でしょうから。

では，どうしたらいいか?
経験と熟練が必要なのかもしれませんね。
因子分析は，実に微妙な分析手法なのだと思いますよ（他の多変量解析手法も同じですけど。データを用意して，コンピュータプログラムに入力させるだけでは，ろくな結果は出ないでしょうね。

No.02258　ご回答のお礼およびご相談(その3)　　【コンスタンチン】　2007/01/13(Sat) 20:01

青木先生
ご回答ありがとうございました。実は因子分析を行うのは今回が初めてで，「経験と熟練」と聞くと気が遠くなるような気もいたしますが，先生がご丁寧なご回答をくださったことを励みに精進して参りたいと思います。

さて，重ね重ね申し訳ございませんが，もう1点お尋ねいたします。
ご相談しております観測変数の整理について調べている過程で，KMO(MSA)について触れた文書を見つけました。これについては一応0.5という目安があるようで，「恣意的な判断」からは少し離れるような気がいたしますが，これに基づく変数の事前整理につきましては如何でしょうか。ある文書には「因子分析関連の書籍ではこれについてあまり触れられていない」といったことも記載されており，ひょっとしたら意味の無いことなのか，或いはこれについても行うべきでは無いのだろうかと思われた次第です。
KMO(MSA)に基づく事前の観測変数の除去の是非について教えてくださいますようお願い申し上げます。

No.02261　Re: 因子分析における観測変数の選定について　　【青木繁伸】　2007/01/13(Sat) 20:39

> KMO(MSA)に基づく事前の観測変数の除去の是非

http://aoki2.si.gunma-u.ac.jp/lecture/PFA/pfa6.html
もご覧あれ。

インターネットで検索すればある程度の答えは分かると思います。
聞くのもいいですが，自分でも調べましょう。

No.02268　ご回答のお礼　　【コンスタンチン】　2007/01/13(Sat) 21:48

青木先生
ご回答くださいましてありがとうございました。ご紹介くださった文書を拝見いたしました。