Embedding-Poisoning:论文代码“小心中毒的单词嵌入

嵌入中毒 论文代码请小心中毒的单词嵌入：探索NLP模型中嵌入层的漏洞（NAACL-HLT 2021） 当前的后门攻击方法要求攻击者可以获取干净的与任务相关的数据集以进行数据中毒。 当攻击者无法访问适当的数据集时，这可能是一个至关重要的限制，由于公司越来越重视数据隐私，因此在实践中可能经常发生这种情况。 在本文中，我们提出了一种仅修改一个单词嵌入向量就可以以无数据方式对NLP系统进行后门攻击的方法。 用法 要求 python> = 3.6 pytorch> = 1.7.0 我们的代码基于提供的代码，因此请首先安装transformers ： git clone https://github.com/huggingface/transformers.git cd transformers pip install -e . 然后将我们的代码放入transformers目录中。 准备数据