首页 诗词 字典 板报 句子 名言 友答 励志 学校 网站地图
当前位置: 首页 > 教程频道 > 开发语言 > VB >

[请问]VBA中分数计算的有关问题

2013-03-25 
[请教]VBA中分数计算的问题?最近在做一个算法,代码检查过若干遍都排除了代码的错误,却发现运行结果有错误,

[请教]VBA中分数计算的问题?
最近在做一个算法,代码检查过若干遍都排除了代码的错误,却发现运行结果有错误,后来把所有数据保存到excel里,发现计算过程中有一批数据经过除法运算后得到的数量级是E-15,甚至是E-16;

在代码中这批数据加和出来的结果是正数,例如:2.15E-15,在excel里用sumproduct公式计算得到的结果刚好是代码里计算出来的负数-2.15E-15;

所以我想请教高手,是不是应该需要将这些数据做适当的圆整?如果需要的话,应该圆整到什么地步?我在VBA代码里那些数据对应的变量都是variant类型的,没有做任何的处理。
[解决办法]

引用:
最近在做一个算法,代码检查过若干遍都排除了代码的错误,却发现运行结果有错误,后来把所有数据保存到excel里,发现计算过程中有一批数据经过除法运算后得到的数量级是E-15,甚至是E-16;

在代码中这批数据加和出来的结果是正数,例如:2.15E-15,在excel里用sumproduct公式计算得到的结果刚好是代码里计算出来的负数-2.15E-15;

所以我想请教高手,是不是应该需要将……
"数量级是E-15,甚至是E-16"这东东双浮点的能算清吗?(我也菜)

热点排行