pau:Padé激活装置

PAU-Padé激活装置 Padé激活单元：深度神经网络中激活功能的端到端学习 Arxiv链接： ：//arxiv.org/abs/1907.06732 1.关于Padé激活装置 Padé激活单元（PAU）已成为。 请在检查更新的仓库！ 在预测性能和训练时间方面，PAU匹配或优于常规激活。 并且，因此减轻了网络设计人员不得不做出可能表现不佳的选择的麻烦。 2.依存关系 Check new Repo ! 3.安装 使用CUDA 10.1将PAU实现为pytorch扩展。 因此，所需要做的就是安装扩展程序。 这需要cuda编译器和dev-tools，但是过程非常简单： 在文件夹/ p​​au / cuda中执行 python3 setup.py install 为此，您可能需要超级用户权限或在虚拟环境中工作。 4.在神经网络中使用PAU PAU可以与任何其他常用激活功能相同的方式集成。