我在舍入方面遇到了麻烦.具体来说,在阅读完所有的
javadoc后,我期待以下代码:
int n = (integer between 0 and 9,included) new BigDecimal(n + 0.555d).setScale(2,RoundingMode.HALF_UP).doubleValue()
返回n 0.56.相反,这些是n从0到4的返回值:
new BigDecimal(0.555d).setScale(2,RoundingMode.HALF_UP).doubleValue() 0.56 new BigDecimal(1.555d).setScale(2,RoundingMode.HALF_UP).doubleValue() 1.55 new BigDecimal(2.555d).setScale(2,RoundingMode.HALF_UP).doubleValue() 2.56 new BigDecimal(3.555d).setScale(2,RoundingMode.HALF_UP).doubleValue() 3.56 new BigDecimal(4.555d).setScale(2,RoundingMode.HALF_UP).doubleValue() 4.55
我也尝试改变舍入模式:
int n = (integer between 0 and 9,RoundingMode.HALF_DOWN).doubleValue()
期望每个n的结果为n 0.55.相反,返回值与前一个示例完全相同:
new BigDecimal(0.555d).setScale(2,RoundingMode.HALF_DOWN).doubleValue() 0.56 new BigDecimal(1.555d).setScale(2,RoundingMode.HALF_DOWN).doubleValue() 1.55 new BigDecimal(2.555d).setScale(2,RoundingMode.HALF_DOWN).doubleValue() 2.56 new BigDecimal(3.555d).setScale(2,RoundingMode.HALF_DOWN).doubleValue() 3.56 new BigDecimal(4.555d).setScale(2,RoundingMode.HALF_DOWN).doubleValue() 4.55
我错过了什么吗?
解决方法
你遇到的问题是double不是一个精确的表示,你基于这个不精确的数字是圆的.
BigDecimal bd = new BigDecimal(1.555d); System.out.println("bd=" + bd); bd = bd.setScale(2,RoundingMode.HALF_UP); System.out.println("after rounding bd=" + bd); double d = bd.doubleValue(); System.out.println("after rounding d=" + d);
版画
bd=1.5549999999999999378275106209912337362766265869140625 after rounding bd=1.55 after rounding d=1.55
然而
BigDecimal bd = BigDecimal.valueOf(1.555d); System.out.println("bd=" + bd); bd = bd.setScale(2,RoundingMode.HALF_UP); System.out.println("after rounding bd=" + bd); double d = bd.doubleValue(); System.out.println("after rounding d=" + d);
版画
bd=1.555 after rounding bd=1.56 after rounding d=1.56
这是有效的,因为BigDecimal.valueOf会根据打印时出现的双倍进行一些额外的舍入.
但是,除非性能/简单性不是问题,否则我不会使用BigDecimal.
double d = 1.555d; System.out.println("d=" + d); d = roundToTwoPlaces(d); System.out.println("after rounding d=" + d); public static double roundToTwoPlaces(double d) { return ((long) (d < 0 ? d * 100 - 0.5 : d * 100 + 0.5)) / 100.0; }
版画
d=1.555 after rounding d=1.56
有关更多详细信息,Double your money again比较了不同舍入方式的性能.