TI

请教关于浮点和定点计算的问题

2019-08-06 15:27发布

站内问答 / TI MCU
9293 1 904
大神好，本人目前想把上位机算法程序搬到下位机来，用的是定点DSP5509，经过试验发现double类型的数据无论怎么赋值，只有整数+小数共7位有效，其余小数部分就被截断了。我有几个问题：1.我要求算法中精确到小数点后三位即可，那是不是整数部分最大只能用到4位？2.在这个定点dsp中可以满足计算需求吗？3.定点与浮点计算核心区别在哪？希望大神不吝赐教，万分感谢
友情提示: 此问题已得到解决，问题已经关闭,关闭后问题禁止继续编辑，回答。
该问题目前已经被作者或者管理员关闭, 无法添加新回复
1条回答
tj_leo
1楼-- · 2019-08-06 19:11
接上面，整数也最多只有高8位有效，请大神解释一下下~~

一周热门 更多>

相关文章