vb 2.6-2=5.999999 为什么？

来源：百度知道编辑：UC知道时间：2024/06/16 18:16:34

用vb编程序，两个数和结果用的都是single型，可是计算2.6-2时却得到0.5999999这个结果，到底是为什么呢？我试过的2.6和2.9和一些数相减时得到类似结果，别的还都正确，请各位大侠和编程高手多多指教

浮点误差问题,建议用Double,不要用Single

这个跟数据在计算机内的存储格式有关, 一般出现这种问题的数据类型是single ,还有double ,这个是正常现象,不是错误,

如果需要整数位,可以对计算结果进行修正

Cdec(2.6)-CDec(2)就好了。