mathematica怎么也有运算误差?两个数相减有多余的尾巴!

来源:百度知道 编辑:UC知道 时间:2024/05/19 08:07:52
in【23】=0.9375000372529 - 0.9375000372528
out【23】=1.00031E-13
很明显这里结果该是1.00000E-13
对于这种情况应该怎么处理得到正确的结果?
能说详细点吗,那个12,2代表什么意思

加参数 WorkingPrecision -> 12, PrecisionGoal->2(这是默认值)

看看这两页吧。
http://zhidao.baidu.com/question/58305049.html?si=2
http://zhidao.baidu.com/question/32304620.html?si=1