ChatGPT学习资料免费分享

GPT-3初代发布于2020.07。在GPT-3后续的训练中，主要使用了三种类型的训练，分别是：代码训练、指令微调 (instruction tuning)和基于人类反馈的强化学习 (reinforcement learning with human feedback, RLHF)。初代GPT-3分别经过代码训练和指令微调得到了初代Codex（2021年7月）和初代instructionGPT模型（2022年3月）。code-davinci-002则是经过语言训练、代码训练和指令微调得到的模型，从此GPT模型进入了GPT-3.5系列；code-davinci-002再经过有监督指令微调训练得到了text-davinci-002模型，二者的区别在于，text-davinci-002模型降低了模型的上下文学习能力，但增强的模型的零样本学习能力。最后是在2022年11月发布的text-davinci-003和 ChatGPT，是使用的RLHF训练得到的两种变体，他们牺牲了上下文学习能力换来了更好的零样本学习能力和建模对话历史的能力。初代GPT3,在一些任务上很强，但是在另外一些任务上甚至