人工智能算法歧视案例.docx

人工智能算法歧视案例全文共2页，当前为第1页。人工智能算法歧视案例全文共2页，当前为第1页。人工智能算法歧视案例 人工智能算法歧视案例全文共2页，当前为第1页。 人工智能算法歧视案例全文共2页，当前为第1页。 如果算法歧视加入了人工智能的程序逻辑以后，歧视就会变得非常复杂且隐蔽，隐蔽到甚至连写程序的人都不知道程序最终是怎么实现歧视的。用一个给客户授信的例子说明。 目标：小贷公司对潜在客户给予主动消费透支额度，并控制违约风险。 普通的算法歧视实现：如果这个客户是20到30岁的青年阶段，给予这个客户50000的初始透支消费额度，如果这个客户60岁以上，则初始额度小于5000。这里有1个判断因子：年龄。这个歧视在算法走查中是可以看出来的，且较为合理，因为般人60岁以后收入来源减少，消费能力也下降。 人工智能的算法歧视：通过对客户分类，如果某类客户在历史数据中违约概率很低，则给予该类客户50000的初始投资额度，如果某类客户历史违约率较高，该类客户就不给予额度。而对客户分类的逻辑，程序员没有确定，而是让机器通过对历史大数据样本进行学习，找出合适的分类关键字，作为因子。 于是，人工智能的算法在对大数据样本学习的过程中，发现：某个地区的客户，特别容易违约。当它发现是某个客户属于这个地区的时候，就不给予透支额度。这个分类关键字就是地区，这是人工智能程序自己发现的，不是程序员设定的。这个歧视就是由人工智能算法产生的"地域歧视"。 这个地域歧视算法，在风控中，确实会有效果。我们通过仔细了解这个地区的情况，会发现违约率 是经济发展的历史原因导致的，该地区为了支持国家建设规划而贡献了的大量资源，造成经济结构不适应当前新经济模式的发展，继而出现暂时的经济困难和违约率高，我们恰恰应该给予支持，而不是歧视。但是这些情况并没有作为让人工智能学习的数据，或者说人工智能的程序还无法学习这人工智能算法歧视案例全文共2页，当前为第2页。人工智能算法歧视案例全文共2页，当前为第2页。些复杂的数据。所以它做了地域歧视。这个歧视因子不是程序员给的，是人工智能自己学到的，虽然在人类看来是不合理的，但是人工智能算法把这个因子加到了对客户分类中，这就是人工智能的算法歧视。 人工智能算法歧视案例全文共2页，当前为第2页。 人工智能算法歧视案例全文共2页，当前为第2页。 人工智能算法歧视案例