SGD和Adam的区别是什么？请从更新规则和适用场景两方面说明。

Question

Accepted Answer

考察点：考察对两类优化器本质区别和适用性的深层理解。回答思路：能指出SGD用固定学习率和梯度方向更新，Adam自适应调整学习率 能说明Adam收敛快、对超参数不敏感，SGD泛化性有时更好 能结合场景说明各自适用条件

考察说明