首页 诗词 字典 板报 句子 名言 友答 励志 学校 网站地图
当前位置: 首页 > 教程频道 > 开发语言 > 编程 >

关于数目字运算溢出的推想

2014-01-05 
关于数字运算溢出的推想先说结论:在进行数字运算时,如果涉及到向上转换,一定要把要转换的标记为先计算的。

关于数字运算溢出的推想
先说结论:
在进行数字运算时,如果涉及到向上转换,一定要把要转换的标记为先计算的。
如下:
100+1000000*1000000*10L 结果溢出
100L+1000000*1000000*10 结果溢出
100+1000000L*1000000*10 结果正确

详细:
今天写代码时要算N小时之前的时间戳,有如下代码:

int N = 1000;
long queryTime = System.currentTimeMillis() - N * 1000 * 60 * 60;

当N=1000时候溢出了~~~

于是我把代码改成了如下:
long queryTime = System.currentTimeMillis() - N * 1000 * 60 * 60L;

发现结果是正确的,但是我隐约感觉事情有些不对,于是修改代码如下:

long queryTime = System.currentTimeMillis() - N * 1000 * 60 * 60 * 1L;

结果果然不对,还是溢出的。

于是修改代码如下:
long queryTime = System.currentTimeMillis() - 1L * N * 1000 * 60 * 60;

这回对了。

所以推想这个【向上转换】是有转换时间的,不是如果整个表达式中有出现long就全转成long,然后再运算(好像我隐约记得我在哪里看见过这么样的结论)。
1000 * 1000 * 60 * 60 * 1L的运算顺序应该如下:
   1000 * 1000 = 1000000 (int型)
   1000000  * 60 = 60000000 (int型)
   60000000 * 60 = -694967296 (int溢出)
   -694967296 * 1L = -694967296 (先把-694967296转换成long型,值不变,然后乘以1)

同样的道理:
(long)(1000* 1000 * 60* 60) 结果依然溢出
(long)1000* 1000 * 60* 60   结果正确,意义为先把第一个1000变为long

所以最简洁的写法应该为:

1000L* 1000 * 60* 60

热点排行