楼主: iqiukp

[我分享] 相关向量机 (Relevance Vector Machine, RVM) 训练和预测的实现

  [复制链接]

入门

166 麦片

财富积分


50500


9

主题

187

帖子

0

最佳答案
  • 关注者: 61
 楼主| 发表于 2019-5-16 12:19:00 | 显示全部楼层
qsmmmmmm 发表于 2019-5-16 11:05
楼主我想请教一下,关于实际值 ytest 和预测值 y_mu 之间的残差有没有定量描述的指标?也就是评价预测精度 ...

定量描述的指标目前常用的有3个:

1. RMSE:  均方根误差,其值越小越好。
2.  CD:    决定系数 coefficient of determination (即相关系数的平方),其值越大越好。
3.  MAE:   平均绝对误差 mean absolute error,其值越小越好。

关于这几个指标的计算公式和使用区别网上相关资料很多,这里就不赘述了。
回复此楼 已获打赏: 0 积分

举报

新手

10 麦片

财富积分


050


0

主题

8

帖子

0

最佳答案
发表于 2019-5-16 14:03:47 | 显示全部楼层
iqiukp 发表于 2019-5-16 12:19
定量描述的指标目前常用的有3个:

1. RMSE:  均方根误差,其值越小越好。

我在一篇文章里看到用贝叶斯因子来衡量, 1.png 代表训练过后对残差进行的变换(高斯变换),其中用到了残差的均值与标准差,
2.png 代表用模型预测时对残差的高斯变换,
最后再做如下计算, 3.png ,B的大小来衡量ytest偏离ytrain的程度,进而识别数据与训练时用的基准数据的偏差,在您看来这种方法有没有指导意义?
回复此楼 已获打赏: 0 积分

举报

入门

166 麦片

财富积分


50500


9

主题

187

帖子

0

最佳答案
  • 关注者: 61
 楼主| 发表于 2019-5-16 16:37:42 | 显示全部楼层
qsmmmmmm 发表于 2019-5-16 14:03
我在一篇文章里看到用贝叶斯因子来衡量,代表训练过后对残差进行的变换(高斯变换),其中用到了残差的均 ...

如果你的研究重点不是这个评价方法,完全可以使用别人提出的新评价方法,通过结合多个评价指标,包括传统的指标,如RMSE这些,以及类似贝叶斯因子这种比较新颖的评价指标,都是从侧面验证你的实验结果好坏。

如果你的研究重点是回归预测的评价,既然这个贝叶斯因子方法是已经公开发表的,肯定有指导意义,因为RVM本身的模型输出就是均值和方差。进而再思考一下,这个贝叶斯因子提出的依据和原因是啥?为什么B的偏差就能衡量预测效果?以及这个贝叶斯因子的应用对象是不是也有一定的数据要求?
回复此楼 已获打赏: 0 积分

举报

新手

10 麦片

财富积分


050


0

主题

8

帖子

0

最佳答案
发表于 2019-5-17 10:07:53 | 显示全部楼层
iqiukp 发表于 2019-5-16 16:37
如果你的研究重点不是这个评价方法,完全可以使用别人提出的新评价方法,通过结合多个评价指标,包括传统 ...

好的,感谢!
回复此楼 已获打赏: 0 积分

举报

新手

10 麦片

财富积分


050


0

主题

8

帖子

0

最佳答案
发表于 2019-5-19 10:15:35 | 显示全部楼层
您好,我看资料说的实际值与预测值之间的残差服从高斯分布,请问一下这个在程序里面体现了吗?
程序里面有没有算出残差呢?还是需要自己用ytest-y_mu得到残差?
回复此楼 已获打赏: 0 积分

举报

入门

166 麦片

财富积分


50500


9

主题

187

帖子

0

最佳答案
  • 关注者: 61
 楼主| 发表于 2019-5-19 14:01:35 来自手机 | 显示全部楼层
qsmmmmmm 发表于 2019-5-19 10:15
您好,我看资料说的实际值与预测值之间的残差服从高斯分布,请问一下这个在程序里面体现了吗?
程序里面有 ...

相关向量机是假设每个输出点服从均值为ymu,方差为yvar的高斯分布,即y~N(ymu, yvar)。
回复此楼 已获打赏: 0 积分

举报

新手

10 麦片

财富积分


050


0

主题

8

帖子

0

最佳答案
发表于 2019-5-19 14:04:14 | 显示全部楼层
iqiukp 发表于 2019-5-19 14:01
相关向量机是假设每个输出点服从均值为ymu,方差为yvar的高斯分布,即y~N(ymu, yvar)。 ...

原来输出的是预测数据的均值与方差?那怎么得到预测的数据值?
回复此楼 已获打赏: 0 积分

举报

入门

166 麦片

财富积分


50500


9

主题

187

帖子

0

最佳答案
  • 关注者: 61
 楼主| 发表于 2019-5-19 17:51:04 来自手机 | 显示全部楼层
qsmmmmmm 发表于 2019-5-19 14:04
原来输出的是预测数据的均值与方差?那怎么得到预测的数据值?

一般而言,预测值取的是期望,即均值(ymu)。
回复此楼 已获打赏: 0 积分

举报

新手

5 麦片

财富积分


050


1

主题

3

帖子

0

最佳答案
发表于 2019-5-22 11:40:57 | 显示全部楼层
好东西,应该收藏
回复此楼 已获打赏: 0 积分

举报

新手

11 麦片

财富积分


050


4

主题

14

帖子

0

最佳答案
发表于 2019-5-24 01:09:42 | 显示全部楼层
请教下楼主有没有较好的优化核宽度的方法,我看SVM有用交叉验证进行确定核宽度,RVM有没有类似的方法?十分感谢!!!
回复此楼 已获打赏: 0 积分

举报

您需要登录后才可以回帖 登录 | 注册

本版积分规则

关闭

站长推荐上一条 /4 下一条

快速回复 返回顶部 返回列表