LabVIEW 神奇的“9” 不等于 “9”

2019-07-17 17:15发布

11407 2

如下图所示，其中标了“9999999”的两个“9”是我在其他程序运行生成的，然后发现这个“9”有点神奇，请问是哪里的问题呢？也附上了这个vi

友情提示: 此问题已得到解决，问题已经关闭,关闭后问题禁止继续编辑，回答。

该问题目前已经被作者或者管理员关闭, 无法添加新回复

2条回答

1楼-- · 2019-07-17 20:15

数组中的元素9并不是绝对等于9，只是浮点数根据精度四舍五入等于9,你可以把数组中元素9复制一个出来，改一下属性-显示格式-位数默认为13，你改成16看看，它就不等于9了，而是变为了8.999999999999998 最佳答案

2楼-- · 2019-07-18 00:21

刚刚试了一下，是和楼主说的一样，挺奇怪的。
向EXT转换不相等，向SGL转换就相等了。
看看楼下怎么说