STM32

关于double转整数的问题

2019-07-20 20:49发布

站内问答 / STM32/STM8
9679 2 1098
现在用 STM32F746NG，遇到一个奇怪的问题，double转 unsigned char 或者 int的时候，有部分数会比原来的数小一，比如原来的double是59.0，转为unsigned int 的时候会变成58,60.0会变成59……依次类推，不是所有的数都这样，是部分数，很奇怪，谁遇到过
友情提示: 此问题已得到解决，问题已经关闭,关闭后问题禁止继续编辑，回答。
2条回答
haysen
2019-07-21 01:03
这个貌似是浮点数精度问题，看到有两个方法，第一种是先转成字符串然后再转成整数，第二种是经过复杂的精度四舍五入计算

一周热门 更多>