计算机深度报告：ChatGPT引发的大模型时代变革

ChatGPT 是由 OpenAI 研发的一种语言 AI 模型，其特点在于使用海量 语料库来生成与人类相似的反应。初代 GPT 模型参数 1.17 亿，GPT2 模型、GPT3 模型参数分别达到 15 亿、1750 亿。不断提升的参数量 级，使得 ChatGPT3 当前已经能够应用在商业、研究和开发活动中。 当前此类参数体量庞大的模型，成为各大科技厂商研发重点。大模型的 基础为高质量大数据。ChatGPT 的前身 GPT-3 就使用了 3,000 亿单 词、超过 40T 的数据。此类大数据基础的前提为三部分 1）有效场景下 的采集数据；2）大数据的存储、清洗和标注；3）数据质量检验。