在数值处理的精度问题,高精度范围的标准是多少?
来源:百度知道 编辑:UC知道 时间:2024/06/20 15:06:52
应该是1.7e-308~1.7e+308
heihei 刚刚看的书
嘿嘿
我印象中C的精度不高只有小数点后16位(double型的)
我还记得用C变写的数学软件mathmtic的精度很高的小数点后有很多位的,大约是楼上说的1.7e-308吧
嘿嘿,记不得了
但你可以通过改进算法提高精度的
理论上讲,你可以通过技术手段,达到你所需要的任何精度要求
UC知道是一部内容开放、自由的互动网络百科全书
客观、专业、权威的知识性百科全书
来源:百度知道 编辑:UC知道 时间:2024/06/20 15:06:52
应该是1.7e-308~1.7e+308
heihei 刚刚看的书
嘿嘿
我印象中C的精度不高只有小数点后16位(double型的)
我还记得用C变写的数学软件mathmtic的精度很高的小数点后有很多位的,大约是楼上说的1.7e-308吧
嘿嘿,记不得了
但你可以通过改进算法提高精度的
理论上讲,你可以通过技术手段,达到你所需要的任何精度要求