算法透明度的好解释-研究论文

机器学习算法已在各个领域得到广泛使用，既可以向专家用户提供预测，也可以向日常用户推荐决策。 然而，这些人工智能系统通常是黑匣子，并且很少向最终用户提供算法输出的解释，这可能导致信任和使用意愿的显着丧失。 人工智能系统对解释和论证的迫切需求导致了对算法透明度的呼吁，包括欧盟通用数据保护条例 (GDPR) 中的“解释权”，该条例要求许多公司向相关方提供有意义的解释。 这些举措都假设我们知道什么是有意义或好的解释，但在人工智能系统的背景下对这个问题的研究很有限。 在本文中，我们 (1) 开发了一个基于哲学、心理学和可解释机器学习的通用框架来调查和定义良好解释的特征，以及 (2) 进行大规模实验室实验来衡量不同因素对在贷款申请环境中对理解、公平和信任的看法。 该框架和研究共同构成了管理者向最终用户展示算法预测原理以促进信任和采用的具体指南。 他们还强调了人工智能研究人员和工程师在设计、开发和部署可解释机器学习算法时要考虑的解释元素。