从神经网络预测的层次解释论文中使用/复制ACD的官方代码(ICLR 2019 )。 该代码为神经网络所做的单个预测生成层次解释。
注意:此存储库正在积极维护。 如有任何疑问,请提出问题。
例子/文档
安装: pip install acd (或克隆并运行python setup.py install )
示例: 文件夹包含带有许多演示的笔记本
api : 提供可用功能列表
src : 文件夹包含方法实现的源
通过更改超参数允许进行不同类型的解释(在示例中进行了说明)
使用python3和pytorch> 1.0进行测试
文件夹中包含所有需要复制的数据/模型/代码
检查NLP情感模型
检测对抗示例
分析imagenet模型
关于在您自己的数据上使用ACD的说明
当前的CD实现并不总是适用于所有类型的网络。 如果您在cd.py内部遇到错误,则可能需要编写一个遍历网络各层的自定义函数(有关示例,请参见cd.py )。 但是,对于许多常见层,应立即使用,包括在alexnet,vgg或resnet中进行Antyhing。
要使用基线(例如堆积和遮挡),请用一个函数替换pred_ims函
评论0
最新资源