求助一个显示数据优化的算法

2019-07-21 02:22发布

最近在做一个外国设备的仿制产品,实现的精度差不多,但我发现国外产品的显示精度很高,实际上是达不到的,但不知道他们怎么做的数据优化。举例:设置数据为1000,可以看到他们的显示数据从0一直在增加,最后可以达到999.9999,并稳定在这个数据。我们现在做出的结果是990到1050之间波动,我估计他们的结果也类似,就是数据上进行了修饰。哪位大神知道这样数据修饰的方法或者算法,请教一下。
友情提示: 此问题已得到解决,问题已经关闭,关闭后问题禁止继续编辑,回答。