当前位置: 代码迷 >> 高性能计算 >> matlab 精度有关问题
  详细解决方案

matlab 精度有关问题

热度:6875   发布时间:2013-02-26 00:00:00.0
matlab 精度问题
最近编写程序,要求随机生成两个小于2^32的数x,y;然后用x*y去摩2^32,判断结果是否小于100000.我用的判断语句为
[align=center]if mod(x*y,2^32)<100000 
   isright=TRUE;
else
   isright=FALSE;
end[/align]
结果又一次生成的两个数分别为:
x=3537755020;
y=3875047216;
matlab计算出的结果为0,结论isright=TRUE;
但我用计算器计算得出的结果为4294966848,结论isright=FALSE;
我应该怎样避免matlab出现的精度问题呢?
------解决方案--------------------------------------------------------
为什么没人回答?
没有人在乎过matlb的精度问题吗?
------解决方案--------------------------------------------------------
我在乎,但我不会啊
本站暂不开放注册!
内测阶段只得通过邀请码进行注册!
 
  • 最近登录:Tue Nov 20 14:02:38 CST 2018
  • 最近登录:Tue Nov 20 14:02:38 CST 2018
  • 最近登录:Tue Nov 20 14:02:38 CST 2018
  • 最近登录:Tue Nov 20 14:02:38 CST 2018
  • 最近登录:Tue Nov 20 14:02:38 CST 2018