查看: 423|回复: 2|关注: 0

[已解决] 运算精度问题

[复制链接]

新手

11 麦片

财富积分


050


6

主题

16

帖子

0

最佳答案
  • 关注者: 1
新手问题可能比较幼稚,请见谅。
我想对一组数据进行等间隔取均值,比如每100个数求平均,用循环的方法实现的
for j=1:170        
a(j)=sum(data(100*(j-1)+1:100*j,2))/100;
  end
出来的结果是科学计数法显示的,我调整了显示精度后发现计算结果后面出现一串0,但实际上循环内应该是一个七位数除以100,结果应该只有两位小数才对,这是为啥。
回复主题 已获打赏: 0 积分

举报

论坛优秀回答者

5

主题

2419

帖子

731

最佳答案
  • 关注者: 201
发表于 2020-2-13 19:26:02 | 显示全部楼层 |此回复为最佳答案
去看这个帖子
  1. https://www.ilovematlab.cn/thread-573210-1-1.html
复制代码
提问请:①准确描述问题②提出你的思考(等着抄作业的一律锁帖)③提供代码文本而非截图④及时反馈
回复此楼 已获打赏: 0 积分

举报

新手

11 麦片

财富积分


050


6

主题

16

帖子

0

最佳答案
  • 关注者: 1
 楼主| 发表于 2020-2-13 19:32:30 | 显示全部楼层

总感觉是个挺大的工程。。。待我慢慢研究。。。:'(
回复此楼 已获打赏: 0 积分

举报

您需要登录后才可以回帖 登录 | 注册

本版积分规则

关闭

站长推荐上一条 /4 下一条

快速回复 返回顶部 返回列表