透过玻璃，黑暗：人工智能和不透明问题-研究论文

随着计算机程序变得越来越复杂，非专业人士了解如何达到给定输出的能力下降。 不透明性也可以内置到程序中以保护所有权。 可以通过求助于专家或通过发出信息的命令来解释这两种类型的系统。 但是，另一类系统可能是自然不透明的，但是使用的深度学习方法无法以人类能够理解的方式进行解释。 新兴的文献描述了这些现象或它们引起的特定问题，尤其是对特定群体的偏见。 本文以美国，欧盟和中国的例子为基础，对不透明性带来的三个离散的监管挑战提出了一种新颖的类型学。 首先，它可能会通过消除监督和问责制的潜力来鼓励（或阻止）劣势的决定。 其次，它可能允许不允许的决定，尤其是那些在做出决定时明确或隐含地依赖诸如性别或种族等受保护类别的决定。 第三，它可能会做出非法决定，在该决定中，获得答案的过程与答案本身一样重要。 通常说来解决某些或所有这些问题的方法是通过透明的。 然而，尽管专有的不透明性可以通过法院命令来解决，而复杂性的不透明性可以通过求助于专家来解决，但自然不透明的系统可能需要新颖的“解释”形式，或者接受某些机器决策无法解释的接受，或者替代地，有些决定根本不应该由机器做出。