灵活且特定于上下文的 AI 可解释性：一种多学科方法-研究论文

最近对人工智能 (AI) 的热情主要归功于深度学习的进步。 深度学习方法非常准确，但也不透明，这限制了它们在安全关键应用中的潜在用途。 为了实现信任和问责，机器学习算法的设计者和运营者必须能够向用户、监管机构和公民解释算法的内部运作、结果和原因。 本文的独创性是结合可解释性的技术、法律和经济方面来开发一个框架，用于定义给定上下文中可解释性的“正确”级别。 我们提出三个合乎逻辑的步骤：首先，定义主要的上下文因素，例如解释的受众是谁、操作上下文、系统可能造​​成的损害程度以及法律/监管框架。 这一步将有助于描述解释的操作和法律需求，以及相应的社会效益。 其次，检查可用的技术工具，包括事后方法（输入扰动、显着图...）和混合 AI 方法。 第三，作为前两个步骤的函数，考虑到所涉及的成本，选择正确的全局和局部解释输出水平。 我们确定了七种成本，并强调只有当社会总收益超过成本时，解释才对社会有用。