vb中double类型的问题
我取到两个数据时存在两个string类型中,比如变量s1,s2.然后我使用cdbl(),保存为double类型的两个变量d1,d2.
计算d1-d2.得出的结果跟实际的不同.
实际数据为
d1=38643.09,d2=38325.56.
d1-d2=317.529999999999
将d1,d2换成single
d1-d2=317.5313
还是得不到结果.
这是为什么?该怎么解决?谢谢各位
[解决办法]
double表示双精度，single表示单精度，顾名思义，都存在精度问题，它们的运算结果也必然是一定精度的近似值。
[解决办法]
