原帖由 skyman_liu 于 2011-11-22 22:47 发表 写AD转换时想输出5v电压，用的公式为            b=m*500/255/100;    s=m*500/255%100/10;   g=m*500/255%10;但是调节变阻器，最大输出电压为2.5v，如果改成1 ...

 

你得考虑数据溢出的问题。

例：如果数据类型为unsigned int，对于Keil C51，当执行 m*500/255的时候，如果m*500大于65536，那么数据溢出，可能截取到了后面16位，那么再执行 /255，等到的数据就不是期望的数值了。

 

类似的，如果换成m/255*500，对于整型运算，若m的值小于255，那么m/255都会为零，再 *500也是零。

 

所以，对于MCU的编程，不能按照人的思维去看整条式子来计算，因为我们可能会通过约分等方式简化计算。

而MCU是一步一步执行的，整型运算不会出现小数的结果。

例如整型运算100/200*200，我们常规思维可能算出结果是100，但是MCU算出来就未必了，可能是0。