……
2017年6月 ， 谷歌大脑团队发表论文《Attention is all you need》 ，
首次提出了基于自注意力机制的Transformer模型 ， 并首次将其用于自
然语言处理。
2018年6月 ，推出1.17亿参数的GPT-1模型
2019年2月 ，推出15亿参数的GPT-2
2020年5月 ，发布了1750亿参数的GPT-3
2022年3月， InstructGPT发布， 回答更加真实
2022年11月 ，ChatGPT发布 ，并率先破圈
2018年10月 ，提出3亿参数的BERT
2019年10月 ，提出110亿参数的新预训练模型-T5
2021年1月 ，推出1.6万亿参数的Switch Transformer
2021年5月 ，发布1370亿参数的LaMDA
坚定的科技信仰： 坚持不断改进GPT
开放的合作伙伴： 与微软达成合作
较少的商业顾虑： 声誉成本、 利益冲突
为什么是OpenAI率先突破
Google
WHY——OpenAI & ChatGPT
人性化AI愿景
前瞻性AI视野
正确合作对象
强大技术实力
多样应用探索
长期研究投入
