问题没解决，觉都睡不安稳。5点半起床接着干，终于解决了。
总结如下：

补充，j 的类型是unsigned char.

VTk=(float)(SigmaVjTj-SigmaVj*SigmaTj/j)/(SigmaVj2-SigmaVj*SigmaVj/j);
这行计算会影响精度，精度损失在SigmaTj/j和SigmaVj/j。应当改成
VTk=(SigmaVjTj-(float)SigmaVj*SigmaTj/j)/(SigmaVj2-(float)SigmaVj*SigmaVj/j);
计算之前先把unsigned long强制转换为float，每一段表达式只转换一个变量即可，与之相关的变量会自动被转换为float型。
因为这里unsigned long一定是非负的，强制转换float时没有问题。

调试时的主要问题出在我的打印语句上。
打印之前将float强制类型转换为unsigned long时，非负数可以直接取整转换，float为负时，则由于补码的原因，转换后的数据不再是所期望的数据。因此，LCD上的显示是错误的，这导致了我走了弯路，但VTk这个float变量的计算值是正确的。因此，VTk可以继续进行后面的计算。在最后显示的时候应该判断VTk的符号，变为非负后再显示。

晚上真的不能熬夜，一点效率都没有。这点东西干了3个小时也没有结果。早点睡觉起个大早30分钟就可以完成。
谢谢【2楼】hongjie0216，提到了若不转化数据类型会对精度产生影响；
谢谢【4楼】millwood0，你对我的激励很有效。