mshaodw-ps模块学习
2015-07-01 16:01
218 查看
shadow-ps模块学习笔记
mshadow-ps实现了一个双层机制的参数服务器,架构如下图所示。通常一个GPU或一个CPU运行一个工作节点,一个一层服务器节点和工作节点在同一台机器上通信。不同机器之间的通信依赖二层服务器节点。
因为同机上的通信开销远远小于不同机器之间,所以通过在不同的层次之间使用不同的模型可以更好的平衡算法效率和系统性能。比如在一层使用顺序一致性模性来保障局部一致性,在二层使用最终一致性模型从而隐藏通信延时。
mshadow-ps实现了一个双层机制的参数服务器,架构如下图所示。通常一个GPU或一个CPU运行一个工作节点,一个一层服务器节点和工作节点在同一台机器上通信。不同机器之间的通信依赖二层服务器节点。
因为同机上的通信开销远远小于不同机器之间,所以通过在不同的层次之间使用不同的模型可以更好的平衡算法效率和系统性能。比如在一层使用顺序一致性模性来保障局部一致性,在二层使用最终一致性模型从而隐藏通信延时。
相关文章推荐
- hdu 4542
- 诸葛分享:精细化APP运营要注意些什么呢?
- Ubuntu系统和编译环境安装
- expected unqualified-id before numeric constant
- 动态规划
- [转]自然语言分词工具
- 配置apache和php mysql的一些问题
- 什么是原型语言
- WEB服务器与应用服务器的区别
- LeetCode Merge Sorted Array
- ARM开发详解电子书在线阅读
- CSS3 animation 逐帧动画
- 64位win7下mysql5.6免安装
- PHP抓取网页、解析HTML常用的方法总结
- POJ2413二分
- 【故障解决】Ubuntu 登陆黑屏,无限卡在登陆页面的解决方法
- Android 点击按钮隐藏键盘
- Linux 下进程的内存空间分配
- linux内存源码分析 - 伙伴系统(初始化和申请页框)
- linux网络:常用命令(二)