精度是什么意思

来源:百度知道 编辑:UC知道 时间:2024/05/29 11:59:15
什么单精度双精度 里面的精度是什么意思

简而言之,采样精度是采样所能达到的最小精度。10位通常记为2,10=1024,精度是每单位的1/1024。如果电压取样,准确度为1/1024v =0.0009765925V约0.98mV。

转换数字精度,数字10说最小精度是10 - 2参考电压之一,也是1024点之一,这里如果参考电压是5v,那么最小单位的(1024)5个成员现在。

0是0V, 1023是5乘以(1023/1024),线性变化。





精度就是你能精确到多少位
比如单精度用32位二进制表示
双精度用64位表示 他们能精确到小数点后的位数是不同 也就是精度不同