ChatGPT到底懂不懂语言？PNAS：先研究什么是「理解」吧

早在ChatGPT发布之前，业界就已经嗅到了大模型带来的变革。 去年10月14日，圣塔菲研究所（Santa Fe Institute）的教授Melanie Mitchell和David C. Krakauer在arXiv发布了一篇综述，全面调研了所有关于「大规模预训练语言模型是否可以理解语言」的相关争论，文中描述了「正方」和「反方」的论点，以及根据这些论点衍生的更广泛的智力科学的关键问题。 太长不看版： 支持「理解」的主要论点是大型语言模型能够完成许多似乎需要理解后才能完成的任务。 反对「理解」的主要论点是，以人类的角度来看，大型语言模型的理解力非常脆弱，比如无法理解prompt间的微妙变化；并且语言模型也没有现实世界的生活经验来验证他们的知识，多模态的语言模型可能会缓解这个问题。 最关键的问题在于，目前还没有人对「什么是理解」有一个可靠的定义，并且也不知道如何测试语言模型的理解能力，用于人类的测试不一定适用于测试大型语言模型的理解能力。 总之，大型语言模型能够理解语言，但可能是以一种不同于人类的理解方式。 研究人员认为，可以开发一种新的智力科学，深入研究不同的理解类型，找出不同理解