labview的深入探索----雙精度數(shù)精度問題
日前幫朋友看一個程序,一個WHILE循環(huán),退出條件是等于一個雙精度數(shù),結(jié)果程序未按照預(yù)想條件退出,由此想到了雙精度數(shù)的精度問題。
計算機(jī)中的雙精度數(shù)都存在精度損失的問題,因此一般不宜用相等進(jìn)行判斷。
可以看出,0.8+(0.42-0.5)!=0而下面(0.08+0.42)-0.5 =0
上面!=0但是+1后卻等于1。
雙精度浮點數(shù)的確不適合用相等來判斷。