elecra_pytorch
该存储库包含本文中对lectra模型的PyTorch实现
凯文·克拉克(Kevin Clark)。 Minh-Thang Luong。 Quoc V. Le。 克里斯托弗·曼宁(Christopher D.Manning)
注意: :hugging_face: 这个版本是体验版本,官方的PyTorch版本正在等待更新 :hugging_face:
注意:2020-04-08 ELECTRA现在可以通过HuggingFace Transformers库在PyTorch中使用!
依存关系
pytorch = 1.10 +
cuda = 9.0
cudnn = 7.5
scikit学习
句子
python3.6 +
下载预训练的模型
英语:官方下载链接:
中文:
微调
1。 将config.json放入prev_trained_model/electra_base目录。 例子:
├── pre
评论0
最新资源