异步的SGD

1

现在以Hogwild!为代表的异步SGD算法很火，Hogwild!是一种lock-free的异步并行算法，虽然理论证明了有lock的时候是收敛的，但在lock-free的时候并没有理论证明收敛性。我们提出了一种比Hogwild!收敛更快的lock-free异步并行算法，并在理论上证明在lock-free情况下是收敛的

@李武军nju

搞定2篇AAAI，第一作者都来自我在南大指导的学生。一篇来自本科大四学生@Kwc_Oliver ，关于supervised discrete hashing，直接学习离散的哈希编码；另一篇来自研二学生@Null0set ，基于lock-free的快速异步并行SGD。到南大一年多了，这一年多很不容易，一切得重新开始，现在总算慢慢上正轨了。

2

@爱可可-爱生活

【基于Intel TBB/RcppParallel实现高性能异步并行SGD/AdaGrad】《Writing fast asynchronous SGD/AdaGrad with RcppParallel》by Dmitriy Selivanov O网页链接