BERT的详细介绍.zip

bert,BERT通过两个主要的预训练目标来学习语言表示： Masked Language Model (MLM)：在这个任务中，输入文本中的一部分单词会被随机遮蔽（替换为一个特殊的[MASK]标记），BERT的目标是预测这些遮蔽的单词。