没有合适的资源?快使用搜索试试~ 我知道了~
ELECTRA-lightning:ELECTRA在火炬上的非官方重新实现(闪电)
共29个文件
py:13个
yaml:12个
gitignore:1个
需积分: 10 0 下载量 163 浏览量
2021-04-05
04:33:13
上传
评论
收藏 17KB ZIP 举报
温馨提示
[WIP] ELECTRA闪电 这只是ELECTRA的另一种重新实现,但采用的是火炬般的闪电。 当前,有几种ELECTRA实施,这极大地帮助了我发展自己的事业,尤其是 , 的实施,当然还有的官方实施。 动机 尽管上面提到的所有实现都是高质量的。 我想使用此模型进行一些多模式实验。 因此,我需要更多的控制权。 另外,我还想玩一些训练语言模型,而ELECTRA是目前唯一允许我使用可实现的计算能力来训练有趣模型的模型。
资源推荐
资源详情
资源评论
收起资源包目录
ELECTRA-lightning-master.zip (29个子文件)
ELECTRA-lightning-master
pyproject.toml 542B
conf
training
default.yaml 147B
config.yaml 113B
trainer
test.yaml 133B
debug.yaml 134B
baseline.yaml 112B
datamodule
openwebtext.yaml 184B
debug.yaml 184B
architecture
tiny.yaml 213B
mini.yaml 213B
base.yaml 216B
medium.yaml 213B
small.yaml 213B
electra
models
modeling
generator.py 4KB
discriminator.py 2KB
__init__.py 0B
configuration_custom_electra.py 568B
__init__.py 155B
lit_module.py 4KB
lit_datamodule.py 3KB
dataset
mlm_dataset.py 4KB
__init__.py 36B
__init__.py 101B
utils
hydra.py 683B
__init__.py 53B
masking_strategies.py 531B
LICENSE 1KB
.gitignore 3KB
README.md 839B
共 29 条
- 1
资源评论
KingstonChang
- 粉丝: 40
- 资源: 4658
上传资源 快速赚钱
- 我的内容管理 展开
- 我的资源 快来上传第一个资源
- 我的收益 登录查看自己的收益
- 我的积分 登录查看自己的积分
- 我的C币 登录后查看C币余额
- 我的收藏
- 我的下载
- 下载帮助
安全验证
文档复制为VIP权益,开通VIP直接复制
信息提交成功