求解LambdaMART的疑惑?
2016-05-17 18:28
225 查看
求解LambdaMART的疑惑?
研究这个LambdaMART好久了,无奈自己在这瞎研究,脑子实在不够用,网上也看了博客,到最后还是看不懂,我明白的是MART是一个学习打分的算法,通过让多棵树进行线性融合,结果得出一个分数,而每一轮就是不断的学习残差的过程。但是我不明白的是,LambdaMART中的Lambda到底是怎么会代表着梯度(它是从RankNet中推导的,但是实在是没明白),它的物理意义是什么?请大神用通俗易懂的话讲给在下,求讲解LambdaMART算法的每一步具体的含义,有理解的,请来吧,谢谢了。
添加评论
分享
0赞同
反对,不会显示你的姓名
姜国华 ,小程序员
是梯度。RankNet在推导的时候只用了Ui比Uj的相关性高还是低(-1, 0, 1),没用上包含位置信息的评估指标(如NDCG),就推出了梯度lambda。所以LambdaMART的lambda,就强硬的在RankNet的lambda上乘上了评估指标的变化(因为评估指标不连续导致目标函数难以推…
显示全部
是梯度。RankNet在推导的时候只用了Ui比Uj的相关性高还是低(-1, 0, 1),没用上包含位置信息的评估指标(如NDCG),就推出了梯度lambda。所以LambdaMART的lambda,就强硬的在RankNet的lambda上乘上了评估指标的变化(因为评估指标不连续导致目标函数难以推导)。注意RankNet到LambdaMART的目标函数,从代价函数变成了效用函数,所以从使用负梯度变成了正梯度。
求解LambdaMART的疑惑?
研究这个LambdaMART好久了,无奈自己在这瞎研究,脑子实在不够用,网上也看了博客,到最后还是看不懂,我明白的是MART是一个学习打分的算法,通过让多棵树进行线性融合,结果得出一个分数,而每一轮就是不断的学习残差的过程。但是我不明白的是,LambdaMART中的Lambda到底是怎么会代表着梯度(它是从RankNet中推导的,但是实在是没明白),它的物理意义是什么?请大神用通俗易懂的话讲给在下,求讲解LambdaMART算法的每一步具体的含义,有理解的,请来吧,谢谢了。
添加评论
分享
0赞同
反对,不会显示你的姓名
姜国华 ,小程序员
是梯度。RankNet在推导的时候只用了Ui比Uj的相关性高还是低(-1, 0, 1),没用上包含位置信息的评估指标(如NDCG),就推出了梯度lambda。所以LambdaMART的lambda,就强硬的在RankNet的lambda上乘上了评估指标的变化(因为评估指标不连续导致目标函数难以推…
显示全部
是梯度。RankNet在推导的时候只用了Ui比Uj的相关性高还是低(-1, 0, 1),没用上包含位置信息的评估指标(如NDCG),就推出了梯度lambda。所以LambdaMART的lambda,就强硬的在RankNet的lambda上乘上了评估指标的变化(因为评估指标不连续导致目标函数难以推导)。注意RankNet到LambdaMART的目标函数,从代价函数变成了效用函数,所以从使用负梯度变成了正梯度。
相关文章推荐
- Android AndroidStudio JSR/RET are not supported with computeFrames option
- Mac配置环境
- 自定义控件(继承系统控件,非自绘)
- 自定义圆角控件
- uinty本地图片的读取和剪裁
- 阿里云持续交付平台CRP | 从代码托管,到一键发布,从持续集成,到持续交付,CRP让交付更加简单、可靠、高效
- opengl fbo 纹理 开发步骤
- 一个矩阵中最大的二维矩阵(元素和最大)
- hibernate中HQL语句
- MongoDB的界面操作工具之rockmongo
- 制作子弹痕迹(到shareMaterial)-Unity
- GBDT(MART) 迭代决策树入门教程 | 简介
- 利用AJAX实现WordPress中的文章列表及评论的分页功能
- RabbitMQ (一)第一个hello world
- SCRUM:第一、二天任务实现情况
- CODEVS 1258 关路灯
- Length of Last Word(easy)
- Apache Prefork、Worker和Event三種MPM分析
- Xcode使用-快捷键
- Scrum4.0+5.0