双精度浮点数的加法计算误差及其避免的初步方法
我一开始是在mysql的sum函数中发现计算误差,经过分析,认为可能与双精度浮点数有关
#include <stdio.h>
main()
{
char str[256];
double x=9999999999.00;
double s=0.0;
double x1=99999999.99;
double s1=0.0;
int i;
for( i = 0; i < 8192; i++ ) {
s += x;
}
printf( "%18.2lf", s );
for( i=0;i<8192;i++)
{
s1 += x1;
}
printf("%18.2lf",s1);
s1 = x1 * 8192.00;
printf("%18.2lf\n",s1);
}
分别在Windows 和 unix 下边编译运行,得到的结果是相同的
81919999991808.00 819199999918.02 819199999918.08
这说明双精度浮点数的加法在小数点后边计算存在较大误差,而乘法就好一些
我初步想到了2种解决方法,不成熟,我也没有试过其他语言,请各位指正
解决方法一:
避免用double就没问题
比如在vb里面这么写,用Currency类型
Private Sub Command1_Click()
Dim i As Integer
Dim s As Double
Dim x As Double
Dim sc As Currency
Dim xc As Currency
x = 99999999.99
s = 0
For i = 1 To 8192
s = s + x
Next i
xc = 99999999.99
sc = 0
For i = 1 To 8192
sc = sc + xc
Next i
MsgBox s & " " & sc
End Sub
结果:819199999918.017 819199999918.08
解决方法二:
加的时候不用小数点,加好以后再点
比如:
99999999.99连加的时候
用9999999999做连加,得出结果后再把小数点右移2位