[请教]VBA中分数计算的问题?
最近在做一个算法,代码检查过若干遍都排除了代码的错误,却发现运行结果有错误,后来把所有数据保存到excel里,发现计算过程中有一批数据经过除法运算后得到的数量级是E-15,甚至是E-16;
在代码中这批数据加和出来的结果是正数,例如:2.15E-15,在excel里用sumproduct公式计算得到的结果刚好是代码里计算出来的负数-2.15E-15;
所以我想请教高手,是不是应该需要将这些数据做适当的圆整?如果需要的话,应该圆整到什么地步?我在VBA代码里那些数据对应的变量都是variant类型的,没有做任何的处理。
[解决办法]