为什么说有效数字越少,相对误差越大

来源:百度知道 编辑:UC知道 时间:2024/06/05 07:48:47
那0.000005和0.051111呢

相对误差=绝对误差/测量值(或多次测量平均值)。

当绝对误差相同时,有效数字越多,相对误差越小。
比如用直尺测量两物体长度,结果分别为10.0毫米和1.0毫米,二者的绝对误差均为0.1毫米。但前者相对误差为1%,后者则为10%。

测量同一物体的长度,使用精确度高的仪器,绝对误差小,相对误差也小。
比如用最小刻度为1厘米的直尺测量结果为10.0厘米,绝对误差为0.1厘米,相对误差为1%;
而用最小刻度为1毫米的直尺测量结果为10.00厘米,绝对误差为0.01厘米,相对误差为0.1%

1/3=0.333333333……
你觉得0.3精确还是0.333333333333精确?
如果再乘个一千万呢?