Open pangedeshijie opened 4 years ago
想分布式使用一下,看Euler采用的是Parameter Server,想问一下训练策略是同步SGD还是异步SGD啊,如果是异步SGD,对于梯度延迟有什么补偿机制吗? 感谢!
想分布式使用一下,看Euler采用的是Parameter Server,想问一下训练策略是同步SGD还是异步SGD啊,如果是异步SGD,对于梯度延迟有什么补偿机制吗? 感谢!