interpretability-tutorial-emnlp2020:EMNLP 2020教程“解释NLP模型的预测”的材料

解释NLP模型的预测 该教程于2020年11月19日在Zoom上举行。 主持人是，和。 滑梯 幻灯片的PDF版本在。 Google Drive版本在。 随意根据自己的目的重复使用我们的任何幻灯片。 视频 该视频可。 抽象的 尽管神经NLP模型具有很高的表现力和经验性的成功，但是它们也以违反直觉的方式系统地失败，并且在决策过程中是不透明的。 本教程将提供解释技术的背景知识，即解释NLP模型预测的方法。 我们将首先在其他了解模型的方式（例如，探测，数据集分析）的背景下放置特定于示例的解释。 接下来，我们将全面研究特定于示例的解释，包括显着性图，输入扰动（例如LIME，输入减少），对抗攻击和影响函数。 除了这些描述之外，我们还将遍历源代码，这些源代码创建和可视化各种NLP任务的解释。 最后，我们将讨论该领域中尚待解决的问题，例如评估，扩展和改进解释方法。 纸 我们可以在找到我们的教程概述文件。