LabView

关于SGL格式和DBL格式保存的小数点位数的问题

2019-07-17 13:51发布

站内问答 / LabVIEW
15675 4 1296
大家好，sgl是单精度浮点数，用4个字节存储。DBL是双精度浮点数，用8个字节存储。给sgl控件赋值1.2345678，出来的是1.234567761421，想知道sgl数据和DBL数据保存的小数点后位数是怎么计算的
友情提示: 此问题已得到解决，问题已经关闭,关闭后问题禁止继续编辑，回答。
4条回答
爬天梯
2019-07-17 22:55
mark一下。。。。。。。。。。。

一周热门 更多>

相关文章