矩阵位移法matlab代码-Anomalous-diffusion-dynamics-of-SGD:论文代码“深度神经网络中学习...

矩阵位移法matlab代码深度神经网络中学习的异常扩散动力学 该存储库是“深度神经网络中的学习的平均扩散动力学，2020年”的正式实施。 由于SGD可以看作是在非凸面和高维损失景观上的随机步行者运动，因此我们使用均方位移（MSD）来量化SGD训练过程的扩散过程。 此外，我们发现SGD的异常扩散动力学是由于SGD和分形样损失-景观的相互作用。 在给定网络架构的情况下，该工具可表征DNN训练过程中SGD动态的异常扩散，并说明损失景观的分形结构。 要求 要安装要求： pip install -r requirements.txt 训练 要在本文中训练模型，请运行以下命令： python -m main --model=resnet14 --epochs=500 --batch_size=1024 python -m main --model=resnet20 --epochs=500 --batch_size=1024 python -m main --model=resnet14_noshort --epochs=500 --batch_size=1024 python -m main -