51单片机浮点运算误差问题

2019-03-24 19:49发布

请问一下 ,用stc89c52做浮点运算后, 取小数点后2位,有时有0.01误差是怎么回事,单片机做浮点运算精度如何?? 此帖出自小平头技术问答
友情提示: 此问题已得到解决,问题已经关闭,关闭后问题禁止继续编辑,回答。
该问题目前已经被作者或者管理员关闭, 无法添加新回复
4条回答
zhuoyue
1楼-- · 2019-03-25 00:15
飘过
辛昕
2楼-- · 2019-03-25 01:31
说具体点。
理论上,二进制小数,总是会有误差的。
l18230365
3楼-- · 2019-03-25 02:49

二进制小数的存储是对于大多数小数来说是一个趋近数。


精度跟你表示数值的范围有关,详细的精度大小可以参照C语言程序设计里数据类型对浮点数一章的描述。


其实精度没你说的那么差,我认为你所说的0.01是因为你检测方法有误导致认为精度就是这个。

 

譬如一个1.56的数值,浮点数存储之后是也许是 1.5600001,但也有可能是1.5599999,当你把数据取整用来显示的时候,你会取2位有效数字,可想而知,如果存储结果是第一种情况,那么你读到的数值是1.56,如是第二种你读到的结果是1.55,所以你理所当然的认为精度是0.01。

 

其实关于这个显示精度,我觉得比较好是做法就是,当你显示的精度需求是0.01时,你可以让浮点数加上0.001之后再取整,那么就是你想要是数字啦。
但当你只是需要浮点数运算的时候,大可不必如此。

[ 本帖最后由 l18230365 于 2011-8-19 01:06 编辑 ]
leang521
4楼-- · 2019-03-25 06:58
 精彩回答 2  元偷偷看……

一周热门 更多>