猜一猜: Console.WriteLine(5000.88 + 5000 == 10000.88); 结果为True还是False?

王朝c#·作者佚名  2006-12-17
窄屏简体版  字體: |||超大  

致命的错误出现在一个项目实践中: Console.WriteLine(5000.88 + 5000 == 10000.88);结果为False

用"=="来比较两个double应该相等的类型,返回真值完全是不确定的。计算机对浮点数的进行计算的原理是只保证必要精度内正确即可,例如:double a=0.9+0.2;那么只能保证小数点后1位这个精度是正确的,计算机计算这个加法的结果a的值可能是1.100000001,也可能是1.100000002也可能就是1.1,也就是说计算机计算后并不保证0.1以下各位得到的都是正确的,所以直接用==进行比较是不可行的。 比较两个double数是否相等应看其相减的绝对值是否小于某一数值,此值一般低于两数精确度例如:Console.WriteLine(Math.Abs(5000+5000.88-10000.88)<0.001);

详细解释:

 
 
 
免责声明:本文为网络用户发布,其观点仅代表作者个人观点,与本站无关,本站仅提供信息存储服务。文中陈述内容未经本站证实,其真实性、完整性、及时性本站不作任何保证或承诺,请读者仅作参考,并请自行核实相关内容。
 
 
© 2005- 王朝網路 版權所有 導航