我的MFC程序中有这样一个问题。。。。。。。。。。。。。

王朝知道·作者佚名  2009-04-07
窄屏简体版  字體: |||超大  
 
分類: 電腦/網絡 >> 程序設計 >> 其他編程語言
 
問題描述:

我在一个函数中循环用到以下代码,但是循环一两次,就出现了以下问题:如果real=2.45,当执行了real=real-y,后得到real=0.44999999999998;我实在不知该如何解决这个问题,还请各位高手帮忙!real=(real) *(m_calcu.m_number_system);//m_calcu.m_number_system是一个常量,int类型;y=(int)real;real=real-y;其中变量定义为:int y; double real;顺便问一下,有没有比double型数精度更高的数据类型,我的程序中将64位最大的二进制数转换为10进制数的时候出现了错误的结果,但是如果二进制数的位数低的话,就转换正确了。像这样受到精度限制的问题该怎么解决呢?

參考答案:

是计算累积误差。

如果单单real=2.45L, real = real - (int) real

打印结果应没问题。

用MS VC++ 编译器算:

#include <stdio.h>

#include <stdlib.h>

main()

{

double a=2.45l; // 长字带L

printf("%30.15lf %30.15lf",a, a - (int) a);

exit(0);

}

2.450000000000000 0.450000000000000

小贴士:① 若网友所发内容与教科书相悖,请以教科书为准;② 若网友所发内容与科学常识、官方权威机构相悖,请以后者为准;③ 若网友所发内容不正确或者违背公序良俗,右下举报/纠错。
 
 
 
免责声明:本文为网络用户发布,其观点仅代表作者个人观点,与本站无关,本站仅提供信息存储服务。文中陈述内容未经本站证实,其真实性、完整性、及时性本站不作任何保证或承诺,请读者仅作参考,并请自行核实相关内容。
 
 
© 2005- 王朝網路 版權所有 導航