奴役算法：从“解释权”到“更好决定权”？-研究论文

随着人们越来越关注“黑匣子”机器学习系统中的不公平和歧视，合法的“解释权”应运而生，成为一种极具吸引力的挑战和补救方法。 我们概述了有关欧洲数据保护法中有限条款的最新辩论，并介绍和分析了法国行政法和现代化的《欧洲理事会第108号公约》草案中较新的解释权。虽然个人权利可能有用，但在隐私法中，它们在历史上已不合理地负担了沉重的负担。平均数据主体。 关于算法逻辑的“有意义的信息”在技术上比通常认为的更有可能，但这加剧了新的“透明性谬误”-一种补救的幻想，而不是任何实质性的帮助。 虽然基于权利的方法应在工具箱中占据稳固的位置，但其他形式的治理（例如影响评估，“软法”，司法审查和模型库）也应得到更多关注，此外，催化机构还应促使用户控制用户对算法系统设计的控制。 《奴役算法：从“解释权”到“更好决定权”》的研究论文聚焦于当前人工智能（AI）和机器学习（ML）系统中的公平性和歧视问题。随着这些技术在日常生活决策中的广泛应用，如刑事判决、医疗治疗、福利资格、娱乐推荐等，公众对“黑匣子”系统的不透明性表示担忧。因此，法律上的“解释权”概念应运而生，旨在为受到决策影响的个人提供挑战和纠正不公平情况的途径。 文章提到了欧洲数据保护法规（GDPR）中的有限条款，以及法国行政法和正在修订的《欧洲理事会第108号公约》草案中的新解释权规定。然而，尽管个人权利的实施在理论上是有益的，但历史经验表明，在隐私法领域，这可能会过度增加普通数据主体的负担。同时，提供关于算法逻辑的“有意义的信息”虽然在技术上变得更为可行，但这可能导致“透明性谬误”，即对解决方案的虚假期待，而非实质性的帮助。 论文作者Lilian Edwards和Michael Veale指出，除了权利基础的方法外，还需要探索其他治理形式，如影响评估、软法、司法审查和模型库，来更全面地应对算法决策带来的挑战。影响评估可以评估算法决策的社会影响，软法可以制定非强制性的指导原则，司法审查则能确保算法决策符合法律和公正原则，而模型库则可促进算法的透明度和可比性。 此外，研究还强调了创建催化剂机构的重要性，这些机构可以帮助用户控制算法系统的设计，从而增强用户对决策过程的影响力。这样的机构不仅能够推动算法的公平性，还可以确保用户在数据驱动的决策中拥有更大的自主权。 这篇论文探讨了在追求算法问责制和自动化决策透明度的过程中，法律、技术和治理策略之间的复杂关系。它警示我们，单纯依赖“解释权”可能不足以解决所有问题，而应综合运用多种手段，包括法律、政策和技术创新，以确保AI和ML系统的公正性和责任性。