算法判别是一个信息问题-研究论文

算法越来越多地做出具有社会影响的决策。 这使得确定他们的决定何时具有歧视性以及如何防止这种结果变得至关重要。 虽然算法决策已被证明是对传统反歧视法的挑战，但仍有机会通过提供的信息来规范算法。 但是阻止有关受保护类别的信息很少会有效地保护这些群体，因为其他信息将充当代理。 为避免区别对待，不能考虑受保护的类别属性； 但为了避免不同的影响，必须考虑它们。 这导致了在调节信息以防止算法歧视方面的悖论。 本文解决了这个问题。 它表明，我们应该修改它们，而不是阻止或允许训练数据中的属性。