「統計学関連なんでもあり」の過去ログ--- 044

No.15415　％計算の有効桁数について　　【秋影】　2011/10/01(Sat) 08:40

はじめまして。
地デジ普及率とか，NHKがやる無作為に選んだ電話での政党支持率などは，20.5%というふうに小数第一位までで出される事が多いです。
これを正規分布とみなし偏差を計算するとき，偏差も同じく小数第一位まで出せばいいのでしょうか。
%の場合，偏差はせいぜい1桁台です。
20.5%の有効桁数は3なので，1桁台の偏差を同じく有効桁数3桁で書くと小数第二位まで書く事になりますが，有効桁数を考慮して合わせる必要はあるのでしょうか。

No.15416　Re: ％計算の有効桁数について　　【青木繁伸】　2011/10/01(Sat) 08:52

最終的に数値として表示するときにのみ表示桁数を考えるだけです。そのときにも，有効桁と言うよりは常識的な桁数（多くの場合は小数点以下何桁まで出すかという桁数）を考えるべきです。途中の計算はコンピュータ（電卓）の桁数の許す限りの桁数で行うべき（途中で桁数を適当にけちってはいけない）。
あなたが偏差と書いたのは，標準得点（z値）のことでしょうが，紙と鉛筆ベースなら標準正規分布表を引用することになるでしょうから，その際は，一般的な標準正規分布表は小数点以下4桁まで表示されているので，計算結果も小数点以下4桁まで表示すべきでしょう。P値なら小数点以下3桁とか，相関係数も小数点以下3桁，身長(cm)や体重（kg）の平均値は小数点以下1桁とか，表示される桁数が慣例的に決まっているものもありますね。

No.15422　Re: ％計算の有効桁数について　　【秋影】　2011/10/01(Sat) 18:07

なるほど，常識や慣例を見て判断ということですか。
ありがとうございました。