ChatGPT语言底层框架:
Transformer是一个由深度神经网络组成的多层网络,其模型的结构类似于神经元,Transformer 模型主要分为两大部分,分别是 Encoder 和 Decoder,建立了词与词之间的复杂关系,其参数之多,可以说其本身的语言模型已经接近人类,Transformer的训练时并行的,大大增加了效率;
ChatGPT的训练过程:
首先进行监督学习,就是是指利用一组已知类别的样本调整分类器的参数,使其达到所要求性能的过程,简单说就是在已知“答案”的情况下,训练机器输出的答案和标准答案的差距,通过不断的调整参数,达到训练效果的一种学习方式;
其次,奖励模型,针对一个问题,机器生成多个不同的回答,人工进行打分排序,训练奖励模型;
最后,强化学习,又称再励学习、评价学习或增强学习,使训练对象与环境不断进行交互,得到环境的反馈信息并调整自己的策略,最终完成特定的目标或者使得某个行为利益最大化,ChatGPT就是结合奖励奖励模型,不断的通过强化学习,更新预训练模型参数。
ChatGPT是一种由OpenAI开发的预训练语言模型,它是基于Transformer架构并使用了大量的文本数据训练而成。
首先,2017年,谷歌大脑团队发表了论文《Attention is all you need》,提出Transformer模型,打下了GPT的基础;
2018年,基于Transformer 架构,OpenAI发布了GPT-1模型,基于Transformer的生成式预训练语言模型。它有1.17亿个参数,用于回答给定的问题 ;
2019年,OpenAI发布了GPT-2模型,具有1.5亿个参数,可以生成一些简单的文本,但是不够强大,对于很多问题无法做出处理;
2020年,OpenAI发布了GPT-3模型,具有1.75万亿个参数,相对于GPT-2模型,功能更加强大,可以流畅的生成一些文本,可称为人工智能的划时代标志;
2022年,OpenAI推出ChatGPT,基于GPT-3的基础上开发出来的人工智能对话机器人,发布的那一刻,瞬间席卷全球,功能基本达到完善,已经可以独立处理多个领域的日常问题,满足了人们对于未来智能机器人的幻想,更有甚者,产生了“人工智能是否会取代人类日常工作”的恐惧心理。