《万字长文带你解读AIGC》系列之任务篇.pdf_yolov5文档资源-CSDN文库

需积分: 5 99 浏览量 2023-12-17 19:19:05 上传评论收藏 3.95MB PDF 举报

资源推荐

资源详情

资源评论

《万字长文带你解读AIGC》系列之任务篇

作为系列篇章的续作，本文将承上启下，着重介绍 AIGC 中相关的任务，包括 text-to-tex

t 、 text-to-image 、 image-to-text 等。创作不易，如果觉得本文对您有点启发或帮

助，烦请各位小伙伴帮忙点赞转发在看，一键三连，小编不胜感激。

4.文本生成

4.1文本到文本

更好的理解和使用自然语言处理，需要了解其中的两个基本任务：理解和生成。这两个任务并

不是完全独立的，因为生成一段合适的文本通常需要先理解一些文本输入。例如，语言模型通

常会把一串文本转化为另一串文本，这构成了文本生成的核心任务，包括机器翻译、文本摘要

和对话系统。

除此之外，文本生成在两个方向上不断发展：可控性和多模态。第一个方向旨在使生成的内容

更加可控，可以通过一些参数控制生成的文本的特定属性，比如情感色彩、风格和内容等。第

二个方向则致力于生成多种类型的内容，比如图像、语音和视频等，这就是所谓的多模态文本

生成。

4.1.1对话机器人

对话机器人( Chatbots )的主要任务是为用户提供更好的人机交流体验。根据应用中任务是否

已指定，对话系统可以分为两类：面向任务的对话系统( Task-oriented Dialogue system

s, TOD )和开放域对话系统( Open-Domain Dialogue systems, ODD )。具体来说，面向任

务的对话系统专注于完成任务并解决特定的问题（例如餐厅预订和机票预订）。而开放域对话

机器翻译是指将一种语言的文本自动翻译成另一种语言的技术。在 ChatGPT 还没出来之前，

大家用的比较多的应该就是这个服务。关于这一块内容，笔者在吴军博士所著的《数学之美》

一书中也曾有涉猎过。以往的机器翻译大都是基于某种规则设定的，耗时耗力不说，准确率也

远远达不到商业化的地步。后续基于统计的方法让人们重新看到了希望，直到近些年随着深度

学习技术和算力的崛起，基于神经机器翻译（NMT）逐渐成为主流方法，因为它具有更强的

能力捕捉句子中的长依赖关系。神经机器翻译的成功主要归因于语言模型，它的核心是预测一

个单词在前面的条件下出现的概率，这当中“隐马尔科夫”的功劳不言而喻。

Seq2seq & Transformer

Seq2seq 是一项将编码器-解码器 RNN 结构应用于机器翻译的开创性工作。当句子变长时，S

eq2seq 的性能会下降，因此后续人们提出了一种新的注意力机制，以帮助进行额外的单词对

齐翻译。在注意力机制的不断提高下，谷歌的 NMT 系统在 2006 年成功地将人类翻译工作量

减少了约 60%。虽然基于卷积神经网络的架构也曾经尝试过多次，但无法像注意力机制增强

的 RNN 一样达到相同的性能。最后便是被一种称为 Transformer 的架构超越了。无论是 R

NN 或 Transformer 作为架构的情况下，NMT 通常利用自回归生成模型，在推理过程中贪婪

地搜索最高概率的单词来预测下一个单词。

machine translation

NMT 的趋势是在资源有限的情况下实现令人满意的性能，其中模型是用有限的双语语料库进

行训练。缓解数据稀缺性的一种方法是利用辅助语言，如使用其他语言对的多语言训练或以英

语作为中间支点语言的枢轴翻译。另一种流行的方法是利用预先训练的语言模型，例如 BERT

或 GPT 。例如，使用 BERT 或 RoBERTa 初始化模型权重显着提高了英语-德语翻译性能。

无需进行微调，GPT 系列模型也表现出竞争性能。最近，ChatGPT 在机器翻译方面显示出

其强大性能，完全可与商业产品（例如谷歌翻译或网易的有道翻译）相媲美。

4.2多模态文本生成

4.2.1图像到文本

剩余10页未读，继续阅读

内容反馈

阿拉伯梳子

粉丝: 1192
资源: 5408

最新资源

资源上传下载、课程学习等过程中有任何疑问或建议，欢迎提出宝贵意见哦~我们会及时处理！点击此处反馈

feedback-tip