浮点变量与零值比较

来源:百度知道 编辑:UC知道 时间:2024/05/20 20:34:27
书上说:
无论是float,还是double类型的变量,都有精度限制.
所以一定要避免将浮点变量"=="或"!="与数字比较,应该设法转换成">="或"<="形式.标准语句如下:
if((x>=-EPSINON)&&(X<=EPSINON)) //其中EPSINON为所允许的误差精度

我对这点很不明白,不知为什么,也不知道转换方法。
但书上没有实例,希望您能给我一个例子,并告诉我其中的原因。
谢谢!

其实你给出的语句已经说明问题了,由于计算机内部对浮点型数的存储有误差,比如double x=0.0;这时计算机内x值可能是0.0000000001……,如果你想将x用作条件判断:
if(x==0)
{//要执行的代码}
那么这时,即使在逻辑上if后的语句是应该被执行的,由于x的值并不精确为0,实际执行时判断条件不成立,要执行的语句没有被执行,这就造成了程序运行结果不正确,也就是逻辑错误。因此,在判断条件中,要尽量不用浮点型变量,而用整型变量,因为计算机对整型变量的存储是精确的。

这时,如果条件判断必须要用浮点型变量的话,那就要变通一下,浮点型的数字都有精确度,比如float型大概是精确到6位,则小数点后6位都是准确的,如果float x=0.0,则x可能为0.000000654……等,那么可取EPSINON=0.000001,则x==0这时就相当于x>-EPSINON&&x<EPSINON,这样再用作判断条件就不会出错了。

比如你用double变量f是否等于0.1来进行下一步操作,那么你的代码应该是:
if( f - 0.1 <= 0.00001 )
do something
而不是:
if( f == 0.1 )
do something