Cross-Project Transfer Representation Learning for Vulnerable Fu...

本文讨论的是如何在软件项目中提前发现易受攻击的功能，特别是当面临高品质训练数据不足和必须依赖过于泛化的手工特征时。文章提出的解决方案是通过跨项目迁移表示学习来丰富特征，以便在相似项目中泛化。 文章核心在于解决机器学习中的冷启动问题，即在软件项目早期阶段，由于缺乏高质量的训练数据，机器学习模型的潜力通常受到限制，不得不依赖过于泛化的手工特征。为了解决这个问题，作者提出了一种数据驱动的方法，包括以下创新点： 1. 利用序列化抽象语法树（AST）揭示代码语义，并使用连续词袋（Continuous Bag-of-Words）神经嵌入来编码标识符。 2. 将序列化的AST输入到序列深度学习分类器（双向长短期记忆网络，Bi-LSTM）中，以获取有助于识别软件漏洞的表征。 3. 将从现有软件项目中获得的神经表征转移到新项目中，从而即使在训练标签数量很少的情况下也能实现早期漏洞检测。 为了验证这一漏洞检测方法的有效性，作者手动标记了来自六个开源项目中的457个易受攻击的函数，并收集了30000多个非易受攻击的函数。实验结果证实，训练有素的模型能够生成有助于识别程序漏洞的表征，并且可以在多个项目之间进行适配。与传统的代码度量指标相比，作者提出的迁移学习表征在预测项目内的易受攻击功能以及跨多个项目时更为有效。 文章涉及的关键知识点有： - 抽象语法树（AST）：用于表示代码结构的树状数据结构，表示程序的语法层面的结构。 - 连续词袋（Continuous Bag-of-Words）模型：一种基于神经网络的词嵌入方法，通常用于自然语言处理中，用于将单词转换为向量空间中的点。 - Bi-LSTM（双向长短期记忆网络）：一种特殊的循环神经网络（RNN），可以学习数据序列中的长期依赖关系，对于处理和预测时间序列数据中的事件和模式特别有效。 - 跨项目迁移学习：一种机器学习技术，利用一个项目的知识（模型、数据等）来提高另一个项目的性能。 - 漏洞表示学习：通过机器学习方法学习软件漏洞的特征和模式，以帮助发现潜在的安全漏洞。 - 安全漏洞检测：使用各种方法和工具识别和评估软件中潜在的安全漏洞的过程。 在解决机器学习面临的冷启动问题方面，本研究提出的方法利用数据驱动的策略，通过学习不同项目间的共性特征来克服数据不足的限制。这可以提高机器学习模型在早期开发阶段对于安全漏洞的检测能力，使得项目可以在较低的开发成本下进行提前的安全评估和加固，这对于软件开发和安全社区来说具有重要的意义。