做浮点数的乘法加减,结果怎么都不对,求好心人来帮忙分析下原因?

2019-03-24 12:29发布

板子的芯片型号是MSP430F2618,
之前计算采集数据一直出现问题,后来发现是浮点数数据处理这里
为了测试方便,我简化了代码,大概就是下面这个样子:
float A = 800.0;
float tempfloat ;
float coefficient = 0.2733;//系数
tempfloat = A*coefficient;

就这个简单的一个操作,按理说tempfloat应该等于218.xxx,但是结果却变成了2.18xx,
在VC环境下试过是可以的,以前在MTK上做过,这样写也没问题
现在换成430,居然一个浮点数乘法都搞不定?
小弟不才,求高手指点,多多批评。 此帖出自小平头技术问答
友情提示: 此问题已得到解决,问题已经关闭,关闭后问题禁止继续编辑,回答。
4条回答
RL_LEE
2019-03-25 01:38
谢谢大家的答复
确实是科学计数了。

一周热门 更多>

相关问题

    相关文章