首页 诗词 字典 板报 句子 名言 友答 励志 学校 网站地图
当前位置: 首页 > 教程频道 > 开发语言 > C++ >

计算器开发遇到精度有关问题,请指导小弟我

2013-11-29 
计算器开发遇到精度问题,请指导我很简单的问题,tan(arcsin(sqrt(2.0)/2.0))-1.0很显然,2分之根2求arcsin就

计算器开发遇到精度问题,请指导我
很简单的问题,
tan(arcsin(sqrt(2.0)/2.0))-1.0
很显然,2分之根2求arcsin就是45度,求tan自然是1.0

但对计算机,就不那么简单了。
计算机得到的tan的结果是1.0000000000000002
1和0总数是16位。

但减1后,结果是2.2...×10^-16显然不是0。
我不敢冒然去掉不可靠的位,因为怕影响后续计算。

据我分析,这是因为减1后,计算机把不可靠的0后的2,当作了有效数字。所以导致了上述结果。
那我怎么办才好呢。 浮点数运算,精度,科学计算器
[解决办法]
要精度就别用浮点数,用大数库吧
[解决办法]
include\float.h

...
#define DBL_DIG         15                      /* # of decimal digits of precision */
#define DBL_EPSILON     2.2204460492503131e-016 /* smallest such that 1.0+DBL_EPSILON != 1.0 */
#define DBL_MANT_DIG    53                      /* # of bits in mantissa */
#define DBL_MAX         1.7976931348623158e+308 /* max value */
#define DBL_MAX_10_EXP  308                     /* max decimal exponent */
#define DBL_MAX_EXP     1024                    /* max binary exponent */
#define DBL_MIN         2.2250738585072014e-308 /* min positive value */
#define DBL_MIN_10_EXP  (-307)                  /* min decimal exponent */
#define DBL_MIN_EXP     (-1021)                 /* min binary exponent */
#define _DBL_RADIX      2                       /* exponent radix */
#define _DBL_ROUNDS     1                       /* addition rounding: near */
...

[解决办法]
1.000000000000000和1.0000000000000002,计算机分不出来这两个数之间有什么区别。当然,人肉眼可以判断,前者后面一串0,后者一串0后面跟个2,不自然,但自然不自然跟对不对没关系
3.12354234254242432和3.12354234254242433,哪个更自然?哪个更正确?你看数值本身看不出来。要精确,就只能算出多少是多少,你任何“让这个数值看起来更自然”的行为,都是在增大误差

根据浮点数的表示方式,用浮点数来表示1.46823×10-50这个数不可能是精确的,如果楼主以为这个数是精确地,那只能说楼主根本就没弄懂浮点数是什么东西
你看这个数的十进制表示后面部分全是0,计算机里用于存储它的二进制可不是一堆0,所以1.46823×10-50跟1.468230000001×10-50,计算机根本不可能区分它们
要像人肉眼一样区分,那只能把两个数都按十进制打印成字符串,然后看哪边一堆0——这是为了美观而进行的字符串处理,而不是数学上的精确计算

楼主想要的功能,只能通过字符串处理实现
先在内存中打印成字符串,然后遍历每一个字符,看哪个字符串后面一堆0,就选择这个字符串去掉0后显示出来
[解决办法]
如果计算不够精确,就开高精度计算吧;如果足够了,就用内部类型计算!
这个没有必要纠结。看实际应用的需要就可以了!

热点排行