BSP编程模型(以NMF为例,试验基于消息传递的模型BSP过程)
2014-09-06 15:47
357 查看
对于需要迭代计算的算法,MapReduce显然不可用,迭代n次的IO量太大,而基于消息的传递模型,BSP和MPI的优势就出来了。BSP的编程模型,试验过了,确实容易入门,只要将求解问题(例如,优化问题、图的最短路径问题等等)抽象成图模型(顶点Vertex、边Edge)后,再通过消息Message,来不断迭代求解即可。拿前面有篇文章,NMF的矩阵分解这个优化问题,来实验:
1)NMF的矩阵分解基本思想:用分解后的两个矩阵P、Q乘积,来逼近原始矩阵R,越逼近越好。这里,采用L2正则避免过拟合。
2)选定优化方法,将问题抽象成图模型,采用BSP编程模型求解。这里选用批量梯度下降,将待求解问题抽象成顶点、边,举例如下,设用户数m,item数n,k是分解后的m的维数,ks是原始稀疏矩阵的非空元素的个数。则抽象后的节点个数m+n,边数ks。其中,r_ij的值是存储到图的边上。
3)上面的图模型抽象好后,用批量梯度下降来迭代求解这个最优化问题。例如,求p矩阵中每个元素值如下公式,每次迭代更新时就用下面第二个公式。求解q类似,公式略。
4)选定步长0.002试验
1)NMF的矩阵分解基本思想:用分解后的两个矩阵P、Q乘积,来逼近原始矩阵R,越逼近越好。这里,采用L2正则避免过拟合。
2)选定优化方法,将问题抽象成图模型,采用BSP编程模型求解。这里选用批量梯度下降,将待求解问题抽象成顶点、边,举例如下,设用户数m,item数n,k是分解后的m的维数,ks是原始稀疏矩阵的非空元素的个数。则抽象后的节点个数m+n,边数ks。其中,r_ij的值是存储到图的边上。
3)上面的图模型抽象好后,用批量梯度下降来迭代求解这个最优化问题。例如,求p矩阵中每个元素值如下公式,每次迭代更新时就用下面第二个公式。求解q类似,公式略。
4)选定步长0.002试验
相关文章推荐
- BSP编程模型(以NMF为例,试验基于消息传递的模型BSP过程)
- BSP编程模型(以NMF为例,试验基于消息传递的模型BSP过程)
- BSP编程模型(以NMF为例,试验基于消息传递的模型BSP过程)
- GraphX之Pregel(BSP模型-消息传递机制)学习
- 基于消息传递的软件架构模型演变
- CLR via C# 读书笔记 3-6 比较APM和EAP(异步编程模型和基于事件的编程模式)
- 基于可编程渲染管线的雷达图像分层模型设计与实现
- 基于状态机模型的编程方法及其框架软件设计
- 再谈非模态对话框的销毁 / 对话框建立过程/ 对话框销毁过程/ 消息传递过程
- 基于模糊Petri网的软件过程故障诊断模型 推荐
- 基于android手机的3G+GPS远程控制模型车工程-android手机编程3-创建控制服务
- 基于多种协议的消息传递机制简介(转)
- 基于Service Broker的异步消息传递
- 基于visual c++之windows核心编程代码分析(33)实现防火墙模型
- 基于多线程技术和自定义消息编程实现Windows 9x异步串行通信
- 网络编程——基于消息的异步套接字编程
- 基于软件过程改进的质量度量模型
- 如何实现基于消息/传输安全验证机制下的windows身份验证过程、无任何验证
- 基于Service Broker的异步消息传递
- 基于 Linux 和 MiniGUI 的嵌入式系统软件开发指南(二) 理解消息循环和窗口过程