Excel的函数计算会出错吗??

来源:百度知道 编辑:UC知道 时间:2024/05/16 00:01:24
Excel的函数计算会出错吗??

计算碟形弹簧的特性曲线时,相同的公式,一个用电子计算器手算,精确到小数点后3位;一个用Excel,精确到小数点后8位。算 出来的结果,凸点载荷分别为4033N和4308N,居然相差10%左右!!!
反复检查都没有问题。
请其他的工程师仔细验算和校对,两种算法都没有问题。这到底是怎么了???
就算是4舍5入也不可能相差这么多?

是精度问题,用Excel计算的是个完整的公式,精度较高,用计算器算的话过程中会碰到很多有小数会被省略所算数值会偏小,所以你上面的计算结果用Excel计算比计算器的大是正常的。