2019-07-15 20:52发布
如果是十进制的话,对12.918进行无损量化,要保留小数点后四位,就是比0.001多一位,同样,二进制的2^-8是0.00390625,它是0.008的1/2,也就是说在二进制中它能精确到0.008的后一位,也就是可以做到无损量化了。我是这么理解的。
补充内容 (2018-8-2 09:38):
应该说0.00390625比0.008的二分之一还要小
最多设置5个标签!
如果是十进制的话,对12.918进行无损量化,要保留小数点后四位,就是比0.001多一位,同样,二进制的2^-8是0.00390625,它是0.008的1/2,也就是说在二进制中它能精确到0.008的后一位,也就是可以做到无损量化了。我是这么理解的。
补充内容 (2018-8-2 09:38):
应该说0.00390625比0.008的二分之一还要小
3位整数位宽最大只能表示7 所以整数12需要4位位宽
小数部分0.918 判断:0.918/0.000244140625 = 3760.128 所以12位小数位能表示0.918
哈哈,网上抄的,你可以这么理解,小数点前面的整数用4bit表示,权重2^3、2^2、2^1、2^0,小数点后面的权重是2^(-1)、2^(-2)以此列推,后面的8bit应该可以加出来0.918.。。。。。
一周热门 更多>