2.645+0.001=2.646
とはならずに
2.645+0.001=2.6459999999999999998
となったりする。
目次
有効桁数で丸める対策
Round関数で四捨五入して切りのいい数値にする。
Round(数値, 丸めたい桁数)
Round(2.6459999999999999998, 3)=2.646
その他の方法
以下のサイトを参考に
スポンサーリンク
2.645+0.001=2.646
とはならずに
2.645+0.001=2.6459999999999999998
となったりする。
目次
Round関数で四捨五入して切りのいい数値にする。
Round(数値, 丸めたい桁数)
Round(2.6459999999999999998, 3)=2.646
以下のサイトを参考に