2019-03-24 19:49发布
二进制小数的存储是对于大多数小数来说是一个趋近数。
精度跟你表示数值的范围有关,详细的精度大小可以参照C语言程序设计里数据类型对浮点数一章的描述。
其实精度没你说的那么差,我认为你所说的0.01是因为你检测方法有误导致认为精度就是这个。
譬如一个1.56的数值,浮点数存储之后是也许是 1.5600001,但也有可能是1.5599999,当你把数据取整用来显示的时候,你会取2位有效数字,可想而知,如果存储结果是第一种情况,那么你读到的数值是1.56,如是第二种你读到的结果是1.55,所以你理所当然的认为精度是0.01。
其实关于这个显示精度,我觉得比较好是做法就是,当你显示的精度需求是0.01时,你可以让浮点数加上0.001之后再取整,那么就是你想要是数字啦。但当你只是需要浮点数运算的时候,大可不必如此。
最多设置5个标签!
理论上,二进制小数,总是会有误差的。
二进制小数的存储是对于大多数小数来说是一个趋近数。
精度跟你表示数值的范围有关,详细的精度大小可以参照C语言程序设计里数据类型对浮点数一章的描述。
其实精度没你说的那么差,我认为你所说的0.01是因为你检测方法有误导致认为精度就是这个。
譬如一个1.56的数值,浮点数存储之后是也许是 1.5600001,但也有可能是1.5599999,当你把数据取整用来显示的时候,你会取2位有效数字,可想而知,如果存储结果是第一种情况,那么你读到的数值是1.56,如是第二种你读到的结果是1.55,所以你理所当然的认为精度是0.01。
其实关于这个显示精度,我觉得比较好是做法就是,当你显示的精度需求是0.01时,你可以让浮点数加上0.001之后再取整,那么就是你想要是数字啦。
[ 本帖最后由 l18230365 于 2011-8-19 01:06 编辑 ]但当你只是需要浮点数运算的时候,大可不必如此。
一周热门 更多>