「統計学関連なんでもあり」の過去ログ--- 043

No.13285　k-NN法とSVMの比較について　　【きく】　2010/08/18(Wed) 18:43

はじめまして。
卒業研究でSVMメインの解析を行っております。
分類性能の比較を行うためにSVMとk-NN法を比較して，誤判別率と偽陰性率で見ています。
誤判別率ではSVMの方が12%，k-NN法が13%でした。偽陰性率ではSVMが84%，k-NNが75%でした。
そこで質問なんですが
1.誤判別率が1%の差でも優れているというのは論文に書けるのでしょうか??
2.誤判別率，偽陰性率のどちらの値が重要視したら良いですか??
3.例えばSVMメインなのにk-NN法が優れていたら論文は書けなくなるのでしょうか??

一人で考えてみたんですが疑心暗鬼になっちゃって…
回答いただけたら幸いです。
よろしくお願いします。

No.13286　Re: k-NN法とSVMの比較について　　【青木繁伸】　2010/08/18(Wed) 20:22

> 1.誤判別率が1%の差でも優れているというのは論文に書けるのでしょうか??

卒論なんですから，いいのでは？まあ，1％位の差は問題外でしょうけど。

> 2.誤判別率，偽陰性率のどちらの値が重要視したら良いですか??

偽陽性率は考慮しなくてもよいのですか？など，複数の指標を同時に見なくてはならないのではないかと思います。AUC なんかも。

> 3.例えばSVMメインなのにk-NN法が優れていたら論文は書けなくなるのでしょうか??

別に，「SVMメイン」にしなければよいだけでは？つまり，「SVMとk-NN法の比較」みたいにすればよいでしょう。卒論は，新発見を期待されるものじゃないのですから。

> 一人で考えてみたんですが疑心暗鬼になっちゃって…

なぜ，一人で考えなきゃならないのでしょう。指導教員は何をしているのでしょう。指導教員は，何を期待されているのでしょう。往々にして「指導教員は何にも分からない人で」という答えが出てくるのでしょうけど，何だかなあと思いますよ？そのような指導教員に付いたのが間違いか，指導しきれない学生をとったのが間違いなのか。

No.13287　Re: k-NN法とSVMの比較について　　【きく】　2010/08/19(Thu) 10:01

青木先生お返事ありがとうございます。

そうですね…
指導教員ともう一度相談しながら進めていきたいと思います。
また統計学で質問にくるかもしれませんがそのときはよろしくお願いします。

本当にありがとうございました。

No.13318　Re: k-NN法とSVMの比較について　　【きく】　2010/08/25(Wed) 19:03

青木先生以前はお力貸していただきありがとうございます。
また質問なんですが，重大事故848件と軽い事故5958件のデータで質的変数をダミー変数，量的変数をスケーリングした結果，変数があまりに多いので判別分析（ステップワイズ変数選択， Pin,Poutともに0.05）を行ったのですが，PinとPoutについてはどのように決めれば良いですか??
データによって変えなければいけないのでしょうか??

No.13322　Re: k-NN法とSVMの比較について　　【青木繁伸】　2010/08/25(Wed) 21:12

Pin＝Pout＝0.05 のデフォルトでよいと思います。
例えば Pin = Pout = 0.05 を指定するということは，最終的な判別式に含まれる全ての説明変数の判別帰係数が 0 であるという帰無仮説が有意水準 5 % で棄却されるということを意味します。

No.13324　Re: k-NN法とSVMの比較について　　【きく】　2010/08/26(Thu) 10:22

青木先生ありがとうございます。
これで一歩進めました。