問:統計解析プログラムにより表示された数値の読み方がわかりません。5.274e-4 というのはどう読むのですか。
これは,「5.274 × 10 の -4乗」 ということです。
このような記述方は浮動小数点表記法 floating point expression あるいは,科学的表記法 scientific notation と呼ばれます。
大きさの異なる数値を一定の印字幅で表現するための表記法である。表に示すように,有効桁数を n 桁とすると,0.1 ≦ X < 10^(n+1) までの値は通常の表記がなされる(小数点をずらして表記する)。この範囲以外の数値は「仮数部」+「指数部」の形式で表記される。指数部は e+NN の形式で,仮数部 × 10^(NN) を意味する(e の代わりに E が使われることもある)。データの入力時にも,浮動小数点表記を使用できる。ただし,同じ値でもさまざまな表記のしかたがある。例えば,1.23 ≡ 0.123e+01 ≡ 123e-2 など。
数値 浮動小数点表記 意味
0.01234567 0.1234567e-01 0.1234567×10^(-1)
0.1234567 0.1234567
1.234567 1.234567
: :
123456.7 123456.7
1234567 1234567.
12345670 0.1234567e+08 0.1234567×10^8
12345674 0.1234567e+08 有効桁 8 桁目で四捨五入された
12345675 0.1234568e+08 数値が示される
123×10^300 0.1230000+303 指数部が 3 桁になる場合には
「e」が省略されることがある
Last modified: May 15, 2002
直前のページへ戻る E-mail to Shigenobu AOKI