对人工智能时代算法歧视的思考.docx

"对人工智能时代算法歧视的思考" 一、算法歧视概念 算法歧视是指在人工智能时代中，算法在内部通过一系列的演算，从而伤害公民的基本权利，违背社会公共伦理的一种规则或者是制定者本身设定的算法就是不公平的一种规则。算法歧视分为两种：第一种是涉及第三人的算法歧视，第二种是不涉及第三人的算法歧视。 二、规制算法歧视的必要性 在王思聪的微博抽奖事件中，我们可以看到商家一种歧视。大数据杀熟是利用算法来达到一级价格歧视，但是王思聪微博事件体现的则是微博背后的算法规则商业气息越发浓厚。在抽奖这上面，用户大多是收入尚可，年纪较轻的年轻女性。我认为微博表达了其消费价值观，以商业大局為重。 三、算法歧视产生的原因 （一）算法的复杂性：算法的复杂程度已经让人难以对其进行分析并解决，更何况企业本身也将算法作为知识产权来保护，这也加大了算法公开的难度。 （二）数据本身的偏见：算法从研发设计之初，就无法做到完全的客观，不论是主观的对算法的修改用以牟利，还是数据输入或算法技术的缺陷，都使得算法歧视可能成为一个长期的问题。 （三）设计者的偏见：智能算法的设计要求、设计目的都是由开发者以及设计者的主观上的价值体现。开发者和设计者可能会将自己的偏见带入算法中，而算法也将这种偏见延续下去。 四、规制算法歧视的措施 （一）构建技术公平规范体系：人类社会中的法律规则、制度以及司法决策行为受到程序正义和正当程序约束。如今这些规则正在被写进程序中，但是技术人员也不知道怎样是公平的，而且也没有一定的标准来指引他们。 （二）增加算法的透明度：算法的不透明是导致算法歧视的一个原因。我们在事后对算法的审查可能比较困难，也可能会付出很大代价。但是我们可以要求，例如谷歌公司在人工智能的设计中就提出了机会均等的概念来处理敏感数据，以防止出现歧视。 五、结论 算法歧视是一个非常严重的问题，它可以导致公民基本权利的伤害，违背社会公共伦理的一种规则。因此，我们需要规制算法歧视，构建技术公平规范体系，增加算法的透明度，防止算法歧视的发生。 六、参考文献 [1] 刘艳红. 网络犯罪讲座笔记. 安徽大学，2019. [2] 王思聪. 微博抽奖事件. 2019. [3] 谷歌公司. 人工智能设计规范. 2020. [4] 李某. 算法歧视研究报告. 北京大学，2020.