VB调用DLL时出现发现的一些问题
我的DLL文件里面是用C语言编写的数据计算的模块,VB给DLL文件传入初值,经过计算将结果输出回VB但中,在传递的过程中会有精度损失吗?例如在VB里面将要传入的初值为223.36,而在DLL文件当中开始进行计算的时候的初值变为223.360563,会有这样的情况出现吗?请各位高手指点一下、、 VB C DLL 精度损失
[解决办法]
那要看你是以什么格式传递,是什么数据类型。
[解决办法]
有误差是正常的,就连整数都有误差,何况小数。
[解决办法]
经过运算或转换后有误差是正常的,但是仅仅等类型传递是不应该变化的。
可能代码错误。
上代码:接口声明、调用代码、被调用代码、如何确定两边不一致的?
[解决办法]
数字文字量存入到浮点变量中时,就可能发生误差。
[解决办法]
还有调用、判断的代码呢?