关于mathematica的精度问题

来源:百度知道 编辑:UC知道 时间:2024/06/08 12:24:37
N[1/7, 40]
输出的是0.1428571428571428571428571428571428571429
而N[0.1/7, 40]
输出的确实0.0142857
为什么??

在Mathematica中,一旦出现小数点,程序就按照非全精度,有效数字一般是六位。这时函数N便失效,若想得到更高精度至少有两种方式:1,尽量把小数用分数代替,避免出现小数点 2,采用`+精度位数处理的方式。