请教电脑高手,关于电脑和手按计算器

来源:百度知道 编辑:UC知道 时间:2024/05/27 10:38:31
用excel2003公式合计出来的数和手按计算器的合计数很多时相差1—2分钱,为什么?而且在以下情况才出现的:先用乘法公式算出结果,再合计其结果后就会出现这种问题了!

计算精度不一样。对乘法公式结果进行四舍五入后再合计就不会有这情况了。

主要是小数精确位的问题影响,你试一下整数,不会出现这个问题吧.

会不会小数位有窟忘的现像?

计算机和计算器都存在一个自身限定问题,如计算机对负值的幂函数就没有办法算,计算器也是这样。之所以会存在你那个问题,是在使用计算机、计算器的时候的尾数保留方式不一样,一个是先保留,一个后保留吧。计算机的肯定是对的,他的精确尾数多,计算器的最多十二位,而且存入M+之后就给你保留过了。

excel2003单元格设置不统一!小数精确位有问题!