BigDecimal精确计算及陷阱

王朝学院·作者佚名  2016-05-28
窄屏简体版  字體: 小  |  中  |  大  |  超大  

BigDecimal精确计算及陷阱BigDecimal通常在涉及到精确计算的时候会用到,下面是自己多次错误使用BigDecimal的总结。

结论:BigDecimal初始化小数时,尽量用字符串形式,例如newBigDecimal("0.1");BigDecimal类型变量比较大小时用compareTo方法,判断变量值是否为0,与BigDecimal.ZERO比较大小。BigDecimal作除法时,除了要考虑除数是否为0,更要考虑是否能除尽的问题,直接调用BigDecimaldivide(BigDecimal divisor, int scale, int roundingMode)方法做除法可以避免除不尽的问题。初始化BigDecimal变量://BigDecimal初始化 public static void testBigDecimalinit() { BigDecimal num1 = new BigDecimal(0.1); System.out.PRintln("坑点1:num1="+num1);//坑点1:num1=0.1000000000000000055511151231257827021181583404541015625 BigDecimal num2 = new BigDecimal("0.1"); System.out.println("正确写法:num2="+num2);//正确写法:num2=0.1 }

结论:尽量用字符串的形式初始化,因为小数在计算机内部根本没法精确表示。比较大小比较BigDecimal类型的变量和0的大小,用compareTo,不要用equals:if (num1.compareTo(BigDecimal.ZERO)>0) if (num1.compareTo(BigDecimal.ZERO)<0) if (num1.compareTo(BigDecimal.ZERO)==0)

//比较大小 public static void testBigDecimalCompareTo() { BigDecimal num1 = new BigDecimal("0.1"); BigDecimal num2 = new BigDecimal("0.100"); if (!num1.equals(num2)) { System.out.println("坑点1,用equals比较大小,num1="+num1+", num2="+num2+" 【不相等】"); } if (!(num1 == num2)) { System.out.println("坑点2,用==运算符比较大小,num1="+num1+", num2="+num2+" 【不相等】"); } if (num1.compareTo(num2) == 0) { System.out.println("正确比较大小,用compareTo,num1="+num1+", num2="+num2+" 【相等】"); } }

结论:比较大小或者值是否相等,用compareTo方法BigDecimal除法在出现除不尽的时候,会出现问题,例如1/3的问题://BigDecimal除法 public static void testBigDecimalDivide() { BigDecimal num1 = new BigDecimal("1"); //坑点:Exception in thread "main" java.lang.ArithmeticException: Non-terminating decima l expansion; no exact representable decimal result. // System.out.println("坑点写法1:"+num1.divide(new BigDecimal("3"))); // System.out.println("坑点写法2:"+num1.divide(new BigDecimal("3")).setScale(2, BigDecimal.ROUND_DOWN)); System.out.println("正确写法:"+num1.divide(new BigDecimal("3"), 2, BigDecimal.ROUND_HALF_DOWN)); }

结论:只有在divide的时候就设置好要精确的小数位数和舍入模式,才能避免出现无法精确表达除不尽的问题。

 
 
免责声明:本文为网络用户发布,其观点仅代表作者个人观点,与本站无关,本站仅提供信息存储服务。文中陈述内容未经本站证实,其真实性、完整性、及时性本站不作任何保证或承诺,请读者仅作参考,并请自行核实相关内容。
 
© 2005- 王朝網路 版權所有 導航