「統計学関連なんでもあり」の過去ログ--- 043

No.12960　主成分回帰分析について　　【ぽち】　2010/07/03(Sat) 11:52

基本的な事を教えてください。

多重共線性が生じないようにするためにPCA回帰分析を使用するというのが，本掲示板の過去ログにあったかと思います。

そこで質問ですが，PCA回帰分析を行うソフトはどういったものがありますでしょうか？手元にはSPSS Regression, R, Excel統計2008しかありません。

また別の質問ですが，以前のログで波音さんが回答されていらっしゃいました以下のコメントにつきまして教えてください。

「多重共線性が生じているような場合に（説明変数間の相関が高い場合に）用いられる方法の1つとしてPCA回帰というものがあります。日本語でいえば主成分分析回帰ですが，要は説明変数に対して主成分分析を行い，作成された合成変数（主成分）を説明変数として用いるという方法です。」

私の研究で説明変数が3つあったとします。合成変数というのは，この3つの変数がまったく別物に変わってしまうと言うことでしょうか？例えば，2変数とか5変数とか？

とんちんかんな質問になっていましたら，お許しください。

よろしくお願いいたします。

No.12962　Re: 主成分回帰分析について　　【青木繁伸】　2010/07/03(Sat) 12:21

R の pls パッケージに pcr という関数があります

mvr {pls} R Documentation
Partial Least Squares and Principal Component Regression

Description

Functions to perform partial least squares regression (PLSR) or principal component regression (PCR), with a formula interface. Cross-validation can be used. Prediction, model extraction, plot, print and summary methods exist.

> 合成変数というのは，この3つの変数がまったく別物に変わってしまうと言うことでしょうか？

多変量解析概論あたりで出てくるのですが，元の変数を x1，x2，…，xpとしたとき，重み w1，w2，…，wpを用いて w1・x1 + w2・x2 + … + wp・xp のように計算したもの（重み付きの合計）を合成変数というのです。重みの付け方で合成変数の意味が変わってきます。

No.12970　Re: 主成分回帰分析について　　【ぽち】　2010/07/04(Sun) 20:15

青木先生

お返事が遅くなりました。申し訳ございません。

申し訳ございませんが，つぎの箇所を再度ご教授いただけませんでしょうか。

> 元の変数を x1，x2，…，xpとしたとき，重み w1，w2，…，wpを用いて w1・x1 + w2・x2 + … + wp・xp のように計算したもの（重み付きの合計）を合成変数というのです。重みの付け方で合成変数の意味

説明変数が3あるとします。Amosのパス図を想像しながら考えているのですが，いまの（と言いましても実際にデータがあるわけではありません。あくまで頭の中での想像です）モデルは3つの説明変数それぞれからパスが出ているわけですが（説明変数間に相関），先生がおっしゃる合成変数とは，この図が崩れると言うことなのでしょうか？すなわち，2つの変数になる可能性もあると言うことでしょうか？

私の当初の想像は，3つの変数は変化しない，ただ，パス係数が変わる，と言う程度の理解でした。

それから「操作変数法」というのもRにはあるのでしょうか？

基本的な質問で申し訳ございません。

No.12971　Re: 主成分回帰分析について　　【青木繁伸】　2010/07/04(Sun) 20:26

> 2つの変数になる可能性もあると言うことでしょうか？

3 変数で PLS 回帰をしてどんなふうになるのか，データによるでしょう。
考えているモデルが実際のデータで成り立つかどうかは，やってみないとわからないでしょう。

> 「操作変数法」というのもRにはあるのでしょうか？

検索してみてください。私にはわかりません。

No.12972　Re: 主成分回帰分析について　　【青木繁伸】　2010/07/04(Sun) 20:49

> 2つの変数になる可能性もあると言うことでしょうか？

A, B, C の合成変数として X が作られ，それが Y に作用するということでしょう。A, B, C に付く係数によっては，ある変数は意味を持たない（有意な係数でない）ということもあるでしょう。
3 変数で PLS 回帰をしてどんなふうになるのか，データによるでしょう。
考えているモデルが実際のデータで成り立つかどうかは，やってみないとわからないでしょう。

> 「操作変数法」というのもRにはあるのでしょうか？

検索してみてください。私にはわかりません。

No.12974　Re: 主成分回帰分析について　　【ぽち】　2010/07/05(Mon) 08:53

青木先生

ご指導いただきありがとうございます。図を提示していただき，理解ができました。

ありがとうございました。