2019-03-26 15:17发布
kophai 发表于 2016-3-21 22:33 那大神我把数的格式定义成double，直接写就可以把
chunyang 发表于 2016-3-21 23:07 这要看你的要求，直接硬件运算的话，浮点处理单元也是有限制的，需要很长的数位需要有相应的算法，去看看 ...
最多设置5个标签!
{var%20f='http://v.t.sina.com.cn/share/share.php?appkey=1515056452',u=z||d.location,p=['&url=',e(u),'&title=',e(t||d.title),'&source=',e(r),'&sourceUrl=',e(l),'&content=',c||'gb2312','&pic=',e(p||'')].join('');function%20a(){if(!window.open([f,p].join(''),'mb',['toolbar=0,status=0,resizable=1,width=440,height=430,left=',(s.width-440)/2,',top=',(s.height-430)/2].join('')))u.href=[f,p].join('');};if(/Firefox/.test(navigator.userAgent))setTimeout(a,0);else%20a();})(screen,document,encodeURIComponent,'','','https://www.xiaopingtou.cn/data/attach/logo/logo.png', '推荐 kophai 的问题《dsp最多可以处理小数点后几位的数》','https://www.xiaopingtou.net/q-21365.html','页面编码gb2312|utf-8默认gb2312'));){kind=link}
这要看你的要求，直接硬件运算的话，浮点处理单元也是有限制的，需要很长的数位需要有相应的算法，去看看有关教材吧。过去的计算器里是4位处理器，也不支持硬件浮点运算，但计算小数照样有7位甚至9位（对应8位和10位显示），这就是算法实现的。
谢谢大神，能提供点资料教材么，不胜感激
一周热门 更多>