不完全合约和 AI 对齐-研究论文

我们建议法律和经济学研究人员开发的不完全合同分析可以为理解 AI 对齐问题提供有用的框架，并有助于生成寻找解决方案的系统方法。 我们首先概述了不完整的合同文献，并探讨了这项工作与 AI 对齐问题之间的相似之处。 正如我们所强调的，委托人和代理人之间的错位是经济分析的核心焦点。 我们重点介绍了关于不完全合同的经济学文献中的一些技术结果，这些结果可能为 AI 对齐研究人员提供见解。 然而，我们的核心贡献是体现了经济学家一直被敦促从法律学者和其他行为科学家那里吸收的见解：人类契约得到大量外部结构的支持，例如普遍可用的制度（文化，法）可以提供隐含条款来填补不完全合同中的空白。 我们为 AI 对齐工作提出了一个研究议程，重点是如何构建可以复制人类认知过程的 AI，该 AI 过程将个人不完整的合同与这种支持的外部结构联系起来。