人工智能中的社会选择伦理-研究论文

人工智能 (AI) 伦理的一个主要方法是使用社会选择，其中人工智能旨在根据社会的总体观点行事。 这可以在“相干外推意志”和“自下而上的伦理”的人工智能伦理中找到。 本文表明，由于不存在单一的社会整体伦理观，人工智能社会选择伦理的规范基础薄弱。 相反，社会选择 AI 的设计面临三组决定：站立，关于包含谁的道德观点； 衡量，关于如何识别他们的观点； 和聚合，关于如何将单个视图组合成指导 AI 行为的单个视图。 这些决定必须在最初的 AI 设计中预先做出——设计师不能“让 AI 弄清楚”。 每组决策都会造成严重的道德困境，对 AI 行为产生重大影响，一些决策选项会产生病态甚至灾难性的结果。 此外，非社会选择伦理面临着类似的问题，例如是否计算后代或人工智能本身。 这些问题可能比是否使用社会选择伦理的问题更重要。 注意力应该集中在这些问题上，而不是社会选择上。