以前写一个程序遇到一个小问题,但是一直没时间把这个问题整理出来。当时的测试程序也早已经不在了,只能重新写一个。
BUG来源于VC里的数学库。fmodf()函数可以对float型的变量进行取模运算,但是对有些值的有些运算却不能正确表达。可以参照以下这个程序。
#include <math.h>
#include <iostream>
using namespace std;
void main()
{
float f;
do
{
cout<<"---------------------------"<<endl;
cin>>f;
cout
<<fmodf(f , 100.0f) / 10.0f<<endl
<<fmodf(f , 10.0f) / 1.0f<<endl
<<fmodf(f , 1.0f) / 0.1f<<endl
<<fmodf(f , 0.1f) / 0.01f<<endl;
cout<<"---------------------------"<<endl;
}while(f>0);
}
这里首先定义一个float类型的变量,然后在输出提示行后输入变量。在对变量进行分别取模运算后除相应的数字来突出最高位,更加明了显示结果。
比如输入52.53,会分别突出各自的十位,个位,十分位,百分位。注意测试中最后一位的2.9998其实近似为3,所以结果是正确的。
如果输入更多的位的浮点数,结果也是正确的。在实际应用中可以对其舍入来完成需求。
但是在输入一个小数部分都为0值的时候,不论是输入10,还是输入10.00,或者10.0000,都会产生错误。在取十分位的时候本应该得到近似0值,这里却得到近似10值。这里就是编译器的BUG所在。事实上,如果对f再进行0.01f的模运算,结果也是正确的。所以编译器对fmodf()函数的对0.1f的取模运算有错误。
解决方法也很简单。因为浮点数的要求精度也许并不高,这样可以使用在对被取模数加小数的方法使其小数部分不为0值。所以应该加上以下一条语句:
f += 0.000001;
如果加更小的数,超出浮点数范围,仍然会出错。
以下是一些测试结果。
---------------------------
52.53
5.253
2.53
5.29999
2.9998
---------------------------
---------------------------
52.0265
5.20265
2.0265
0.265007
2.64999
---------------------------
---------------------------
10
1
0
0
9.99999
---------------------------
---------------------------
10.00
1
0
0
9.99999
---------------------------
---------------------------
10.00001
1
9.53674e-006
9.53674e-005
0.000938773
---------------------------
本程序在VC环境下和DEV C++环境下都测试过,都有同样的错误。没有TC环境,没有测试。