首页 诗词 字典 板报 句子 名言 友答 励志 学校 网站地图
当前位置: 首页 > 教程频道 > 服务器 > 云计算 >

matlab 精度有关问题

2012-12-15 
matlab 精度问题最近编写程序,要求随机生成两个小于2^32的数x,y;然后用x*y去摩2^32,判断结果是否小于10000

matlab 精度问题
最近编写程序,要求随机生成两个小于2^32的数x,y;然后用x*y去摩2^32,判断结果是否小于100000.我用的判断语句为
[align=center]if mod(x*y,2^32)<100000 
   isright=TRUE;
else
   isright=FALSE;
end[/align]
结果又一次生成的两个数分别为:
x=3537755020;
y=3875047216;
matlab计算出的结果为0,结论isright=TRUE;
但我用计算器计算得出的结果为4294966848,结论isright=FALSE;
我应该怎样避免matlab出现的精度问题呢?
[解决办法]
为什么没人回答?
没有人在乎过matlb的精度问题吗?
[解决办法]
我在乎,但我不会啊

热点排行