求教浮点数据的运算问题,精度,及其运行机制

2020-01-26 13:01发布

是这样的 我要对这个数据进行运算y = (x - 11)/0.327879 ,  X的范围是11 --255, 也就是Y最大为744.17696772284897782413634298018(这个结果shi)结果要求精确到小数点后1位就行。  x是unsigned char型。这个式子该怎么写呢。
y=((float)((x - 11))/0.327879);可不可以
友情提示: 此问题已得到解决,问题已经关闭,关闭后问题禁止继续编辑,回答。
该问题目前已经被作者或者管理员关闭, 无法添加新回复
6条回答
marx
1楼-- · 2020-01-26 15:11
 精彩回答 2  元偷偷看……
金牛AKI
2楼-- · 2020-01-26 15:24
marx 发表于 2013-9-28 10:50
(x - 11)*30499

这样的话,还得除以10000啊
marx
3楼-- · 2020-01-26 20:33
金牛AKI 发表于 2013-9-28 11:18
这样的话,还得除以10000啊

直接拿来用不行么???
金牛AKI
4楼-- · 2020-01-26 22:54
marx 发表于 2013-9-28 11:40
直接拿来用不行么???

1/0.327879 = 30499,你这思想不错,            
jamasliu
5楼-- · 2020-01-27 01:07
win8自带计算器有这个功能,xp的不知道去哪里整这个神器。
cxning
6楼-- · 2020-01-27 02:50
 精彩回答 2  元偷偷看……

一周热门 更多>