数值转字符串后数据就不对了

2019-07-17 20:40发布

我将一直循环得到的值转换成字符串后就不对了,不知道是为什么?难道是转换过程中有什么机制?
QQ截图20161130105640.png
QQ截图20161130105711.png
友情提示: 此问题已得到解决,问题已经关闭,关闭后问题禁止继续编辑,回答。
该问题目前已经被作者或者管理员关闭, 无法添加新回复
12条回答
zhnuaa
1楼-- · 2019-07-17 21:37
啥玩意啊。你这个问题是出在数据类型上啊。
你数字显示那个用的U32,但是你输入到数字显示前不是U32类型,所以U32控件上显示一个红 {MOD}小三角形。进入数字显示控件前的数字应该是个I32,而你的转成字符串时,显然是不会强制转换成U32的,自然两个数就不一样了。
如果你确定计算出的值应该是个U32那转成字符串前请先强制把数转成U32 最佳答案
hejin515
2楼-- · 2019-07-17 23:26
 精彩回答 2  元偷偷看……
菊部有阵血
3楼-- · 2019-07-18 03:10
hejin515 发表于 2016-12-1 10:15
我照着你的数据做了一个,转换没有问题。唯一发现的就是的数值接近U32位极限,不知道是不是这方面的原因。新建了一个LabVIEW学习交流群(557572818),欢迎加入交流学习。

我后面反复测试,应该是我的数据太大超过了字符串的最大长度导致数据不对
宁静致远。。
4楼-- · 2019-07-18 04:20
菊部有阵血 发表于 2016-12-1 13:48
我后面反复测试,应该是我的数据太大超过了字符串的最大长度导致数据不对

用U64就好了                        
zhnuaa
5楼-- · 2019-07-18 09:49
菊部有阵血 发表于 2016-12-1 13:48
我后面反复测试,应该是我的数据太大超过了字符串的最大长度导致数据不对

所谓的字符串最大长度是不存在的。。。
菊部有阵血
6楼-- · 2019-07-18 14:04
zhnuaa 发表于 2016-12-1 17:16
啥玩意啊。你这个问题是出在数据类型上啊。
你数字显示那个用的U32,但是你输入到数字显示前不是U32类型,所以U32控件上显示一个红 {MOD}小三角形。进入数字显示控件前的数字应该是个I32,而你的转成字符串时,显然是不会强制转换成U32的,自然两个数就不一样了。
如果你确定计算出的值应该是个U32那转成字符串前请先强制把数转 ...

对头你说的非常正确,后来我又试了下确实是两端的类型不一样导致的

一周热门 更多>