没有合适的资源?快使用搜索试试~ 我知道了~
奇点将至,探他山之石 ——从算力、算法、数据和应用看AIGC.pdf
1.该资源内容由用户上传,如若侵权请联系客服进行举报
2.虚拟产品一经售出概不退款(资源遇到问题,请及时私信上传者)
2.虚拟产品一经售出概不退款(资源遇到问题,请及时私信上传者)
版权申诉
0 下载量 114 浏览量
2024-03-24
10:44:38
上传
评论
收藏 4.33MB PDF 举报
温馨提示
试读
37页
奇点将至,探他山之石 ——从算力、算法、数据和应用看AIGC.pdf
资源推荐
资源详情
资源评论
奇点将至,探他山之石
——从算力、算法、数据和应用看AIGC
2023年3月19日
1
目录
01 生成式AI:ChatGPT引燃市场,数字经济未来已至
02 数据:大模型训练的基础资源
03
算力:大模型发展带来高算力需求
04
算法:大模型算法助力AIGC突破
05
产业应用:各领域应用加速落地,商业化前景广阔
AIGC(AI Generated Content)即生成式AI,多领域应用逐渐成熟。AIGC涉及无监督和半监督学习算
法,截至目前其发展历程主要分为三个阶段:
• 统计机器学习方法阶段(2010年前):首先对数据进行手工标注,然后构建其重要特征,最后构建概率
模型并进行参数优化,从而将概率最大的输出作为结果;
• 基于深度学习的神经网络模型(2010年-2017年):深度学习算法被引入,本质上是通过大量数据训练
神经网络,主要表现形式为:CNN(卷积神经网络)、RNN(循环神经网络)等。相比统计学习方法,
省去了复杂且手工的特征构建;
• 基于Transformer结构的预训练模型(2017年至今):利用大量无标注数据进行自监督学习,然后再使
用少量的标注数据对下游任务进行微调(即迁移学习)。
• 在应用方面,按场景分类AIGC已经较为成熟地应用于文本和代码撰写、图像识别和生成,以GPT为首的
AIGC模型也正在探索消费级AI技术的变现方式。展望未来,AIGC不仅会在现有应用领域持续进步,也将
逐步拓展到视频和游戏领域,AIGC将会在更多的领域得到广泛应用,为各个行业和领域的发展和进步提
供更多可能性。
表1:AI应用发展进程预测
2020前 2020 2022 预计2025 预计2030 预计2050
文本
垃圾邮件检测
翻译
基础问答
基础文案撰写
生成草案
撰写更长文章
完善文稿
对科学论文等进行
垂直微调
文章终稿超过人类
平均水平
文章终稿超过专业
作者水平
代码 单行自动完成 多行代码生产
更长代码
更高准确度
更多语言
深度提高
文本到产品(草稿)
文本到产品(终
稿),超过大部分
开发者
图像
艺术
Logo
摄影
产品设计、建筑等
模型
产品设计、建筑等
终稿
终稿超过大部分专
业艺术家、设计师、
摄影师水平
视频/3D/游戏
视频和3D制作的初
稿
完善版本
AI创作平台
游戏和电影实现个
性化定制
开始尝试 基本完成 黄金时期
生成式AI:自然语言处理演变十余年,迎来变现阶段
OpenAI创立于2015年12月,发布ChatGPT引燃AI行业热度。GPT系列是OpenAI打造的自然语言处
理模型,采用以Transformer结构为核心的模型,其最大特点是使用了大量的未标注的语料进行无监督的
预训练,然后在各种有监督的任务上进行微调。
OpenAI于2022年11月先后推出了GPT-3.5和ChatGPT,GPT-3.5使用了更新的语料进行预训练,而
ChatGPT是基于GPT-3.5的对话机器人,能够根据用户的输入生成流畅、有逻辑的回答,以及完成撰写论
文报告、翻译文字、编写代码等文本生成任务,并且能根据聊天的上下文进行互动。
ChatGPT发布后爆火,仅用5天时间用户量便破百万,推出2个月后用户量破亿,成为史上用户增长
速度最快的消费级应用程序。3月14日,OpenAI进一步推出GPT-4.0,相比当前ChatGPT使用的GPT-3.5,
增加了输入图像的功能;扩写能力增强,能处理超过25000个单词的文本;更具创造力,并且能够处理更
细微的指令。GPT模型迭代的参数量及训练量均呈指数级增长,使得AI从实验技术成长为稳定生产力。
图1:ChatGPT仅发布5天便达到百万用户
0 200 400 600 800 1000 1200 1400
Netflix
Airbnb
Twitter
Foursquare
Facebook
Spotify
Instagram
ChatGPT
用户量达到100万时间(天)
生成式AI: GPT模型迭代四大版本,进化速度不断提升
GPT模型稳定进步,AI已是成熟生产工具。从GPT-1到最新发布的GPT-4模型,其应用已经不仅局限
于问答、阅读理解等文本处理,虽然目前GPT-4在现实场景中的能力可能不如人类,但在各种专业和学术
考试上表现出明显超越人类水平的能力,GPT-4在模拟律师考试中,分数排在前10%;相比之下,GPT-
3.5的得分则在倒数10%附近。
随着算力、算法、数据量的演进,行业内不断出现高质量的AI产品,微软New Bing、AI绘画、智能
驾驶等等,体现出AI未来在多个领域的应用潜力。ChatGPT版Office、百度“文心一言”两大产品正式推
出,或将AI的生产力推向新的高度。
图2:GPT 4.0 数学能力大幅提升
生成式AI: AI产品全面开花,生产力将达新高度
剩余36页未读,继续阅读
资源评论
百态老人
- 粉丝: 1314
- 资源: 2万+
下载权益
C知道特权
VIP文章
课程特权
开通VIP
上传资源 快速赚钱
- 我的内容管理 展开
- 我的资源 快来上传第一个资源
- 我的收益 登录查看自己的收益
- 我的积分 登录查看自己的积分
- 我的C币 登录后查看C币余额
- 我的收藏
- 我的下载
- 下载帮助
安全验证
文档复制为VIP权益,开通VIP直接复制
信息提交成功