关于语言大模型的八大论断

关于语言大模型的八大论断，总结了八个可能引发思考的观点，并讨论了LLM还存在的局限性。即便没有针对性的创新，LLM的能力也会随着投资的增加而可预估地增强；LLM中的一些重要行为往往作为增加投资的“副产品”不可预测地出现；LLM经常学习并使用外部世界的表征；目前还没有可靠的技术来引导LLM的行为；专家们还不能解释LLM的内部运作情况；人类在一项任务上的表现并不是LLM表现的上限；LLM不需要表达其创造者的价值观，也不需要表达网络文本中编码的价值观；与LLM的简短互动往往具有误导性。语言大模型及其衍生产品，如ChatGPT等，最近引起了记者、政策制定者和学者们的极大关注。然而，该技术在许多方面都没有达到人们的预期效果，对它的简要概述往往容易忽略重点。本文提出了八个大胆论断，预计这些论断在LLM相关讨论中将引起关注。它们代表着模型开发人员对LLM的普遍看法。