基于聚类与深度学习的自监督文本摘要方法.pdf

基于聚类与深度学习的自监督文本摘要方法 本文提出了一种基于聚类与深度学习的自监督文本摘要方法，旨在解决传统摘要抽取方面存在的问题，如关键词频率忽视文本内容结构的重要性、抽取摘要冗长度高、连贯性差等问题。该方法首先使用 Bert 预训练语言模型获取文本的句嵌入向量，然后使用 K-Means 聚类算法对句嵌入进行聚类，选择最接近质心的句子作为初始摘要。接着，引入基于 GPT-2 语言模型的深度学习算法对初始摘要进行再训练，生成最终摘要。 该方法的核心思想是使用聚类算法对文本进行聚类，选择最接近质心的句子作为摘要，从而解决传统摘要抽取方面的问题。同时，引入基于深度学习的生成式方法，进一步提升摘要的可读性和连贯性。 本文的主要贡献在于： 1. 提出了基于聚类与深度学习的自监督文本摘要方法，解决了传统摘要抽取方面的问题。 2. 使用 Bert 预训练语言模型获取文本的句嵌入向量，提高了语义表示的合理性。 3. 使用 K-Means 聚类算法对句嵌入进行聚类，选择最接近质心的句子作为初始摘要。 4. 引入基于 GPT-2 语言模型的深度学习算法对初始摘要进行再训练，生成最终摘要。 实验结果表明，该方法生成的摘要文本质量有所改善，缓解了摘要标签获取困难的问题。 该文本摘要方法具有广泛的应用前景，如新闻摘要、文档摘要、搜索引擎优化等领域，能够帮助人们快速、准确地获取有用的信息。 本文提出了一种基于聚类与深度学习的自监督文本摘要方法，解决了传统摘要抽取方面的问题，提高了摘要的可读性和连贯性，具有广泛的应用前景。