求助一个显示数据优化的算法

2019-07-21 02:22发布

最近在做一个外国设备的仿制产品，实现的精度差不多，但我发现国外产品的显示精度很高，实际上是达不到的，但不知道他们怎么做的数据优化。举例：设置数据为1000，可以看到他们的显示数据从0一直在增加，最后可以达到999.9999，并稳定在这个数据。我们现在做出的结果是990到1050之间波动，我估计他们的结果也类似，就是数据上进行了修饰。哪位大神知道这样数据修饰的方法或者算法，请教一下。

友情提示: 此问题已得到解决，问题已经关闭,关闭后问题禁止继续编辑，回答。