首页 诗词 字典 板报 句子 名言 友答 励志 学校 网站地图
当前位置: 首页 > 教程频道 > 其他教程 > 开源软件 >

浮点数演算

2013-10-27 
浮点数运算凡是小数位出现1,如:0.1 0.01 0.001等,无论是参与运算的数还是运算后的结果,都会出现误差例1:do

浮点数运算
凡是小数位出现1,如:0.1 0.01 0.001等,无论是参与运算的数还是运算后的结果,都会出现误差例1:double a = 2.43;double b = 1.42;System.out.println(a-b);//结果中小数位存在1结果是:1.0100000000000002例2double a = 2.0;double b = 1.1;//参与运算的数小数位出现1结果是:0.8999999999999999为什么会出现误差?要从十进制转换成二进制说起,查一下就明白了!

?

?

?

热点排行