# 基于transformers的自然语言处理(NLP)入门
Natural Language Processing with transformers.
本项目面向的对象是：
- NLP初学者、transformer初学者
- 有一定的python、pytorch编程基础
- 对前沿的transformer模型感兴趣
- 了解和知道简单的深度学习模型
本项目的愿景是：
希望结合形象生动的原理讲解和多个动手实践项目，帮助初学者快速入门深度学习时代的NLP。
本项目的主要参考资料是：
- Huggingface/Transformers代码库
- 多个优秀的Transformer讲解和分享
项目成员：
- erenup([多多笔记](https://www.zhihu.com/people/nai-ping-46-76))，北京大学，负责人
- [张帆](https://github.com/zhangfanTJU)，Datawhale，天津大学，篇章4
- 张贤，哈尔滨工业大学，篇章2
- 李泺秋，浙江大学，篇章3
- 蔡杰，北京大学，篇章4
- hlzhang，麦吉尔大学，篇章4
- 台运鹏 篇章2
- 张红旭 篇章2
本项目总结和学习了多篇优秀文档和分享，在各个章节均有标注来源，如有侵权，请及时联系项目成员，谢谢。去[Github点完Star](https://github.com/datawhalechina/learn-nlp-with-transformers)再学习事半功倍哦😄，谢谢。
# 项目内容
## 篇章1-前言
* [1.0-本地阅读和代码运行环境配置.md](./篇章1-前言/1.0-本地阅读和代码运行环境配置.md)
* [1.1-Transformers在NLP中的兴起](./篇章1-前言/1.1-Transformers在NLP中的兴起.md)
## 篇章2-Transformer相关原理
* [2.1-图解attention](./篇章2-Transformer相关原理/2.1-图解attention.md)
* [2.2-图解transformer](./篇章2-Transformer相关原理/2.2-图解transformer.md)
* [2.2.1-Pytorch编写Transformer.md](./篇章2-Transformer相关原理/2.2.1-Pytorch编写Transformer.md)
* [2.2.2-Pytorch编写Transformer-选读.md](./篇章2-Transformer相关原理/2.2.1-Pytorch编写Transformer-选读.md)
* [2.3-图解BERT](./篇章2-Transformer相关原理/2.3-图解BERT.md)
* [2.4-图解GPT](./篇章2-Transformer相关原理/2.4-图解GPT.md)
* [2.5-篇章小测](./篇章2-Transformer相关原理/2.5-篇章小测.md)
## 篇章3-编写一个Transformer模型：BERT
* [3.1-如何实现一个BERT](./篇章3-编写一个Transformer模型：BERT/3.1-如何实现一个BERT.md)
* [3.2-如何应用一个BERT](./篇章3-编写一个Transformer模型：BERT/3.2-如何应用一个BERT.md)
* [3.3-篇章小测](./篇章3-编写一个Transformer模型：BERT/3.3-篇章小测.md)
## 篇章4-使用Transformers解决NLP任务
* [4.0-前言](./篇章4-使用Transformers解决NLP任务/4.0-前言.md)
* [4.1-文本分类](./篇章4-使用Transformers解决NLP任务/4.1-文本分类.md)
* [4.2-序列标注](./篇章4-使用Transformers解决NLP任务/4.2-序列标注.md)
* [4.3-问答任务-抽取式问答](./篇章4-使用Transformers解决NLP任务/4.3-问答任务-抽取式问答.md)
* [4.4-问答任务-多选问答](./篇章4-使用Transformers解决NLP任务/4.4-问答任务-多选问答.md)
* [4.5-生成任务-语言模型](./篇章4-使用Transformers解决NLP任务/4.5-生成任务-语言模型.md)
* [4.6-生成任务-机器翻译](./篇章4-使用Transformers解决NLP任务/4.6-生成任务-机器翻译.md)
* [4.7-生成任务-摘要生成](./篇章4-使用Transformers解决NLP任务/4.7-生成任务-摘要生成.md)
* [4.8-篇章小测](./篇章4-使用Transformers解决NLP任务/4.8-篇章小测.md)
基于transformers的自然语言处理.zip
版权申诉
135 浏览量
2024-04-15
23:03:38
上传
评论
收藏 23.17MB ZIP 举报
基于transformers的自然语言处理.zip （241个子文件） 
transformer_decoding_1.gif 3.53MB 1-7-attention-pro.gif 2.73MB 1-6-mt-1.gif 1.77MB 1-6-seq2seq.gif 1.77MB 1-7-attention-dec.gif 1.4MB 1-6-seq2seq-decoder.gif 1.25MB 2-decoder.gif 877KB 1-3-mt.gif 729KB 2-encoder-decoder.gif 615KB 1-6-rnn.gif 597KB 1-7-attention.gif 305KB 1-2-translation.gif 233KB 1-3-encoder-decoder.gif 210KB 4-full.gif 206KB 1-seq2seq.gif 200KB 4-gpt2-the.gif 144KB 3-1-gradient-checkpointing.gif 85KB
index.html 1KB
2.2.1-Pytorch编写Transformer.ipynb 712KB 4.4-问答任务-多选问答.ipynb 114KB 3.1-如何实现一个BERT.ipynb 90KB 4.3-问答任务-抽取式问答.ipynb 82KB 3.2-如何应用一个BERT.ipynb 67KB 4.2-序列标注.ipynb 66KB 4.1-文本分类.ipynb 65KB 4.7-生成任务-摘要生成.ipynb 53KB 2.2.2-Pytorch编写Transformer-选读.ipynb 51KB 4.5-生成任务-语言模型.ipynb 42KB 4.6-生成任务-机器翻译.ipynb 36KB 3.1-如何实现一个BERT.md 73KB 3.2-如何应用一个BERT.md 53KB 4.3-问答任务-抽取式问答.md 49KB 4.0 基于Hugging Face -Transformers的预训练模型微调.md 47KB 2.2.2-Pytorch编写Transformer-选读.md 40KB 2.2.1-Pytorch编写Transformer.md 39KB 4.7-生成任务-摘要生成.md 36KB 2.2-图解transformer.md 32KB 4.4-问答任务-多选问答.md 30KB 4.1-文本分类.md 29KB 4.2-序列标注.md 29KB 2.4-图解GPT.md 27KB 4.6-生成任务-机器翻译.md 19KB 4.5-生成任务-语言模型.md 18KB 2.3-图解BERT.md 15KB 2.1-图解attention.md 14KB 1.1-Transformers在NLP中的兴起.md 5KB README.md 3KB 1.0-本地阅读和代码运行环境配置.md 2KB _sidebar.md 2KB 2.5-篇章小测.md 857B 2.0-前言.md 776B 3.3-篇章小测.md 338B 4.0-前言.md 314B 4.8-篇章小测.md 274B .nojekyll 0B
2-model_parameters.png 2.12MB model_parameters.png 2.12MB 1-x-formers.png 452KB 3-4-bert-ft.png 381KB git-download.png 332KB 2-2-pos-embedding.png 306KB 4-wiki.png 268KB 3-5-adamw.png 248KB 3-cnn.png 203KB 3-6-bert.png 196KB 2-2layer.png 170KB vscode-preview.png 163KB jupyter.png 162KB transformer.png 151KB 2.2.1-Pytorch编写Transformer_0_0.png 151KB 2-transformer-stru.png 143KB 2-2-encoder-detail.png 125KB 4-music3.png 121KB 3-bert-app.png 118KB colab-drive.png 118KB 2-trans-example.png 109KB summarization.png 106KB 3-3-bert-lm.png 103KB 3-elmo-pre1.png 100KB 0-1-transformer-arc.png 98KB 0-1-transformer-arc.png 98KB 3-0-embedding.png 98KB 3-stru.png 93KB 3-bert-elmo.png 91KB 2-transformer.png 88KB 2.2.1-Pytorch编写Transformer_13_0.png 88KB 3-bert-feature.png 82KB 4-trans.png 76KB causal_language_modeling.png 75KB 3-2-bert-flow.png 74KB 2.2.1-Pytorch编写Transformer_48_0.png 70KB 4-sum.png 68KB 2-translation.png 66KB 4-gpt2-it3.png 66KB 4-sum1.png 65KB 3-openai-down.png 65KB 2-position3.png 62KB transformer-linear.png 60KB 2.2.1-Pytorch编写Transformer_37_0.png 60KB 4-music1.png 60KB共 241 条
- 1
- 2
- 3
资源评论
小码蚁.
- 粉丝: 2670
- 资源: 4521
