No.03817 Re: データの規準化 【青木繁伸】 2007/06/30(Sat) 22:22
ゼロではなくてどういう値になりましたか?
いいかえれば,Excel では,その値はどのように表示されましたか?
小数点の問題で0にならないというのは,どういう事を言いたかったのかなぁ?
No.03818 解決しました 【空星】 2007/06/30(Sat) 23:18
-1.37112543541207E-14とか-6.88338275267597E-15だったのですが,
この表記方法を調べたら浮動小数点だったのですね。
-1.37112543541207E-14のような表記方法が何を意味しているのかがわからなかったので...
roundで適当な小数点で四捨五入したら全て0になりました。
どうもありがとうございましたm(_ _)m
● 「統計学関連なんでもあり」の過去ログ--- 040 の目次へジャンプ
● 「統計学関連なんでもあり」の目次へジャンプ
● 直前のページへ戻る