对pytorch中的梯度更新方法详解

背景 使用pytorch时，有一个yolov3的bug，我认为涉及到学习率的调整。收集到tencent yolov3和mxnet开源的yolov3，两个优化器中的学习率设置不一样，而且使用GPU数目和batch的更新也不太一样。据此，我简单的了解了下pytorch的权重梯度的更新策略，看看能否一窥究竟。 对代码说明 共三个实验，分布写在代码中的（一）（二）（三）三个地方。运行实验时注释掉其他两个 实验及其结果 实验（三）： 不使用zero_grad（）时，grad累加在一起，官网是使用accumulate 来表述的，所以不太清楚是取的和还是均值（这两种最有可能）。 不使用zero_grad()