LabView

关于SGL格式和DBL格式保存的小数点位数的问题

2019-07-17 13:51发布

站内问答 / LabVIEW
15708 4 1296
大家好，sgl是单精度浮点数，用4个字节存储。DBL是双精度浮点数，用8个字节存储。给sgl控件赋值1.2345678，出来的是1.234567761421，想知道sgl数据和DBL数据保存的小数点后位数是怎么计算的
友情提示: 此问题已得到解决，问题已经关闭,关闭后问题禁止继续编辑，回答。
4条回答
wyq95361977
2019-07-18 05:34
如果需要详细介绍请自己娘度一下浮点数的保存方式
我这边简单讲一下
浮点数的小数部分是由1 1/2 1/4....不停逼近的，如果没有刚好合适只能逼近最近视值

一周热门 更多>

相关文章