torch_ACA:纸质回购

更新：现在，ACA已集成到TorchDiffEqPack（ ）中，它具有更灵活的API以支持元组输出ODE，内存高效异步跳越积分器（MALI）和更多示例。 PyTorch的“自适应检查点伴随”（ACA）的实现，用于精确且可微分的ODE求解器 该库提供了在提出的在PyTorch中实现的常微分方程（ODE）求解器，并且可以插入现有的神经网络模型中。 与torchdiffeq实现相比，ACA使用轨迹检查点策略来保证反向模式轨迹的数值精度，因此在梯度估计中更加准确。 据我们所知，ACA是第一个使Neural-ODE模型在基于基准的Res​​Net模型（例如Cifar分类）上胜过ResNet模型的自适应求解器，该模型也支持自适应步长和误差估计（是最广泛使用的软件）。 ACA支持常规参数ODE模型。 ACA支持多GPU训练和高阶导数（例如，对损失函数添加梯度损失）。 依存关系 PyTorc