Text-generation-task-and-language-model-GPT2:通过语言模型GPT2解决文本生成任务，...

文本生成任务和语言模型GPT2 该资源池的第一部分总结了用于使用语言模型GPT2解决文本生成任务的资源，包括论文，代码，演示演示和动手教程。 第二部分展示了GPT2在机器翻译，自动摘要生成，迁移学习和音乐生成的文本生成任务中的应用。 最后，比较了2018年至2019年之间基于Transformer的15种主要语言模型。 第二部分展示了GPT2在机器翻译，自动摘要生成，迁移学习和音乐生成这些文本生成任务上的应用。最后对比了2018-2019年间重要的基于Transformer的15个语言模型 GPT-2 GPT-2是OpenAI于2019年2月发布的一种基于变压器的大型语言模型。它包含15亿个参数，并在800万个Web数据集中进行了训练。 据报道，该模型是GPT模型的直接扩展，训练的数据量超过10倍，参数量也增加了10倍。 在性能方面，该模型能够生成连贯的文本段落，并在许多语言建模基准上