查看: 142|回复: 2|关注: 0

[已解决] MATLAB计算精度问题

[复制链接]

新手

13 麦片

财富积分


050


12

主题

39

帖子

0

最佳答案
本帖最后由 冯斌斌 于 2019-11-29 14:40 编辑

a=2;
b=3;
c=6;
R1=1/(1/a+1/b+1/c)
R2=(a*b*c)/(b*c+a*c+a*b)
mod(R1,1)
mod(R2,1)


一个通过直接计算,一个通分后计算,结果存在误差,直接计算的结果对1取余数后都不为0,这个怎么解决,是MATLAB的bug吗?
QQ截图20191129143210.png

论坛优秀回答者

权威

4004 麦片

财富积分



3

主题

4186

帖子

879

最佳答案
  • 关注者: 190
发表于 6 天前 | 显示全部楼层 |此回复为最佳答案
a=sym('2');
b=sym('3');
c=sym('6');

新手

13 麦片

财富积分


050


12

主题

39

帖子

0

最佳答案
 楼主| 发表于 6 天前 | 显示全部楼层
maple1314168 发表于 2019-11-29 14:51
a=sym('2');
b=sym('3');
c=sym('6');

哇,这样真的可以,为什么我那样就有问题呢?
您需要登录后才可以回帖 登录 | 注册

本版积分规则

关闭

站长推荐上一条 /3 下一条

快速回复 返回顶部 返回列表