LabVIEW 神奇的“9” 不等于 “9”

2019-07-17 17:15发布

如下图所示,其中标了“9999999”的两个“9”是我在其他程序运行生成的,然后发现这个“9”有点神奇,请问是哪里的问题呢?也附上了这个vi
Test.jpg
Test.rar 下载积分: 积分 -1 分
9.83 KB, 下载次数: 3, 下载积分: 积分 -1 分
友情提示: 此问题已得到解决,问题已经关闭,关闭后问题禁止继续编辑,回答。
2条回答
zhouyezuishuai
2019-07-17 20:15
数组中的元素9并不是绝对等于9,只是浮点数根据精度四舍五入等于9,你可以把数组中元素9复制一个出来,改一下属性-显示格式-位数 默认为13,你改成16看看,它就不等于9了,而是变为了8.999999999999998 最佳答案
捕获.JPG

一周热门 更多>