iclr-2021-factored-attention

iclr-2021-factored-attention 该存储库包含用于在我们的论文重现结果的代码。 该代码完全建立在之上， 是一个用于蛋白质家族 MRF 模型的小型库。 如果您希望使用我们的 Potts 或注意力实现进行自己的探索，直接使用 Mogwai 会更容易。 如果您有任何疑问，请随时与我们联系或打开问题！ 安装 克隆后，请安装 mogwai 和必要的依赖项 $ make build 更新 Mogwai 子模块 每次拉取时，请务必同时更新 Mogwai 子模块 $ git pull $ make 运行训练运行 设置好环境后，运行： python train.py --model=factored_attention --attention_head_size=32 --batch_size=128 --l2_coeff=0.001 --learning_rate=0.005