解释游戏：可解释机器学习的正式框架-研究论文

我们为可解释的机器学习提出了一个正式的框架。 结合来自统计学习、因果干预主义和决策理论的元素，我们设计了一个理想化的解释游戏，其中玩家合作为给定的算法预测找到最佳解释。 通过问答的迭代过程，参与者建立了一个三维帕累托边界，描述了解释准确性、简单性和相关性之间的最佳权衡。 多轮在不同的抽象层次上进行，允许玩家探索可变粒度和范围的重叠因果模式。 我们描述了这样的游戏几乎肯定会在多项式时间内收敛到（有条件的）最佳解释表面的条件，并突出显示往往会阻止玩家前进超过某些解释阈值的障碍。 该游戏具有描述性和规范性功能，建立了一个概念空间，可以在其中分析和比较现有提案，以及设计新的和改进的解决方案。