板子的芯片型号是MSP430F2618,
之前计算采集数据一直出现问题,后来发现是浮点数数据处理这里
为了测试方便,我简化了代码,大概就是下面这个样子:
float A = 800.0;
float tempfloat ;
float coefficient = 0.2733;//系数
tempfloat = A*coefficient;
就这个简单的一个操作,按理说tempfloat应该等于218.xxx,但是结果却变成了2.18xx,
在VC环境下试过是可以的,以前在MTK上做过,这样写也没问题
现在换成430,居然一个浮点数乘法都搞不定?
小弟不才,求高手指点,多多批评。
此帖出自
小平头技术问答
确实是科学计数了。
一周热门 更多>