计算器开发遇到精度问题,请指导我
很简单的问题,
tan(arcsin(sqrt(2.0)/2.0))-1.0
很显然,2分之根2求arcsin就是45度,求tan自然是1.0
但对计算机,就不那么简单了。
计算机得到的tan的结果是1.0000000000000002
1和0总数是16位。
但减1后,结果是2.2...×10^-16显然不是0。
我不敢冒然去掉不可靠的位,因为怕影响后续计算。
据我分析,这是因为减1后,计算机把不可靠的0后的2,当作了有效数字。所以导致了上述结果。
那我怎么办才好呢。 浮点数运算,精度,科学计算器
[解决办法]
要精度就别用浮点数,用大数库吧
[解决办法]
include\float.h
...
#define DBL_DIG 15 /* # of decimal digits of precision */
#define DBL_EPSILON 2.2204460492503131e-016 /* smallest such that 1.0+DBL_EPSILON != 1.0 */
#define DBL_MANT_DIG 53 /* # of bits in mantissa */
#define DBL_MAX 1.7976931348623158e+308 /* max value */
#define DBL_MAX_10_EXP 308 /* max decimal exponent */
#define DBL_MAX_EXP 1024 /* max binary exponent */
#define DBL_MIN 2.2250738585072014e-308 /* min positive value */
#define DBL_MIN_10_EXP (-307) /* min decimal exponent */
#define DBL_MIN_EXP (-1021) /* min binary exponent */
#define _DBL_RADIX 2 /* exponent radix */
#define _DBL_ROUNDS 1 /* addition rounding: near */
...