做浮点数的乘法加减,结果怎么都不对,求好心人来帮忙分析下原因?

2019-03-24 12:29发布

板子的芯片型号是MSP430F2618,
之前计算采集数据一直出现问题,后来发现是浮点数数据处理这里
为了测试方便,我简化了代码,大概就是下面这个样子:
float A = 800.0;
float tempfloat ;
float coefficient = 0.2733;//系数
tempfloat = A*coefficient;

就这个简单的一个操作,按理说tempfloat应该等于218.xxx,但是结果却变成了2.18xx,
在VC环境下试过是可以的,以前在MTK上做过,这样写也没问题
现在换成430,居然一个浮点数乘法都搞不定?
小弟不才,求高手指点,多多批评。 此帖出自小平头技术问答
友情提示: 此问题已得到解决,问题已经关闭,关闭后问题禁止继续编辑,回答。
该问题目前已经被作者或者管理员关闭, 无法添加新回复
4条回答
sjunbasketball
1楼-- · 2019-03-24 14:53
应该不会吧,你看看那个2.18是不是用科学计数法表示的
陌~尚~桑
2楼-- · 2019-03-24 17:05
 精彩回答 2  元偷偷看……
astwyg
3楼-- · 2019-03-24 20:46
IAR么?哪个版本?
RL_LEE
4楼-- · 2019-03-25 01:38
谢谢大家的答复
确实是科学计数了。

一周热门 更多>

相关问题

    相关文章