可信AI治理框架探索与实践.docx资源-CSDN文库

版权申诉

97 浏览量 2023-02-23 16:44:12 上传评论收藏 534KB DOCX 举报

资源推荐

资源详情

资源评论

0 引言

人工智能（AI）的蓬勃发展是人类社会的重大历史事件，其开创了一个新

的时代

[1]

。随着 AI 技术的快速发展，AI 应用的规模愈加庞大，IDC 预测 AI 应

用市场规模有望在 2024 年突破 5 000 亿美元大关

[2]

。但随着 AI 应用的深入，

一些深层次问题逐渐暴露出来，比如使用脸部照片、人脸视频、3D 头套等方

式恶意欺骗人脸识别系统

[3]

；在交通标志上添加一个不显眼的对抗扰动，误导

并改变自动驾驶汽车的行车路线

[4]

；通过毒化数据的方式，在模型中添加后门，

从而控制模型的行为

[5]

；“大数据杀熟”

[6]

和“数字剥削”

[7]

等恶意使用 AI 的行为。

上述 AI 安全伦理问题引发了人们对 AI 系统可信性的担忧，阻碍了 AI 的进一

步发展，已经成为亟待解决的问题。

如何打造可信的 AI 系统已经成为政府、企业的关注重点。本文分析了 AI

系统在当下遇到的可信问题与挑战，从技术和管理两个维度出发，提出了一种

通用的可信 AI 治理框架 ——T-DACM （ trusted data ＆ algorithm ＆

computation ＆management）。T-DACM 具体包括可信数据、可信算法、可

信计算、可信管理 4 个层次，覆盖了数据安全、模型安全、隐私保护、风险控

制、过程管理、可解释性、公平伦理、追溯追责等 AI 热点问题的解决方法，

为企业及监管机构提供了一种可行的可信 AI 解决方案。

1 国内外研究进展

可信是 AI 技术的自身要求，也是 AI 产业发展的要求。统计模型存在类似

“射手假说”[8]的问题，AI 不可避免地有被误用、滥用、恶意使用的风险。为了

降低这些风险，国外对可信 AI 的研究主要从安全及数据隐私方面入手，兼顾 AI

使用过程中的伦理道德，制定了相关的法律法规。

2014 年 Goodfellow I J 等人

[9]

提出用模型对抗训练的方法来防御对抗样本

攻击，增强模型的安全性；2016 年 Ribeiro M T 等人

[10]

提出一种生成解释方法

来解释模型的决策过程，提升模型决策的透明性；2018 年 Gidaris S 等人

[11]

提

出一种元学习方法来提高模型在未知领域数据上的泛化能力，降低模型的误用

风险；2019 年 Nguyen H H 等人

[12]

提出使用多任务学习的方法来提高模型的领

域泛化能力，降低模型误判的风险；2019 年 Iosifidis V 等人

[13]

提出一种基于重

采样的方法来消除数据中的偏见，提升模型的公平性；2021 年 Sauer A 等人

[14]

提出一种反事实图片的生成方法来协助分类模型找到更稳定的因果特征，提升

模型的泛化能力。

与此同时，在可信 AI 治理指导原则方面，2018 年欧盟提出了《人工智能

道德准则》，提出可信 AI 的 5 个指导原则：福祉原则、不作恶原则、自治原

则、公正原则、可解释性原则

[15]

；2020 年 Shin J 等人

[16]

提出构建一个可信 AI

系统需要重点考虑 AI 应用的再现性、可解释性和公平性；2020 年英国信息专

员办公室提出了《解释 AI 做出的决定》，提出算法透明度可以从原理解释、

责任解释、数据解释、公平性解释、安全与可靠性解释及影响解释 6 个方面实

现

[17]

。2021 年，Winter P M 等人

[18]

提出，可信的 AI 应用需要重点关注机器学

习（machine learning，ML）关键理论理解、质量评估手段、领域泛化、置信

度量手段、道德伦理、用户可接受度、抗攻击能力等方面。

国内对可信 AI 的技术研究基本与国外同步，在可信 AI 治理配套的法规方

面，从网络安全、数据安全、个人信息多维度入手，更加全面，职责明确，易

于实施。在可信 AI 技术研究方面，2017 年 Meng D Y 等人

[19]

提出基于数据增

强和样本检测的 MagNet 方法来防御对抗样本攻击；2018 年 Kuang K 等人

[20]

提出一种基于样本加权的因果预测算法 DGBR 来提高模型对未知环境的适应

能力；2019 年 Zhang Q S 等人

[21]

提出一种基于决策树的替代模型方法来解释

卷积神经网络（convolutional neural network，CNN）模型的决策逻辑；2019

年 FENG R 等人

[22]

提出一种基于对抗框架的数据表示方法来消除数据集中对特

定群体的偏见；2021 年 Zhao Y Y 等人

[23]

提出一种多源元学习框架来增强模型

的领域泛化能力。

在可信 AI 治理指导原则方面，我国于 2016 年颁布了《中华人民共和国网

络安全法》，要求网络运营者保障网络免受干扰、破坏或者未经授权的访问，

防止网络数据泄露或被窃取、篡改。2019 年我国提出了《新一代人工智能治

理原则——发展负责任的人工智能》，强调了和谐友好、公平公正、包容共享、

尊重隐私、安全可控等 8 条原则，从而逐步实现可审核、可追溯、可信赖的

[24]

； 2020 年中国信息通信研究院提出了《人工智能安全框架（ 2020

年）》，其从 AI 安全技术、AI 安全管理两个方面设计 AI 安全框架，对 AI 安

全能力进行分级，提出了合法合规、功能可靠可控、数据安全可信、决策公平

公正、行为可解释、事件可追溯的 AI 安全目标

[25]

；2021 年 6 月通过的《中华

人民共和国数据安全法》要求机构开展数据处理活动时，应当遵守法律、法规，

尊重社会公德和伦理，遵守商业道德和职业道德，诚实守信，履行安全保护义

务、承担社会责任，不得危害国家安全、公共利益，不得损害个人、组织的合

法权益；2021 年 8 月通过的《中华人民共和国个人信息保护法》要求机构在

利用个人信息进行自动化决策时，要建立算法影响评估制度进行事前风险评估，

建立算法审计制度审计活动遵守法律、法规的情况，保证决策的透明度和结果

公平合理。

剩余24页未读，继续阅读

评论收藏

内容反馈

版权申诉

罗伯特之技术屋

粉丝: 3675
资源: 1万+

可信AI治理框架探索与实践.docx

城市轨道交通行车关键设备 主动运维系统探索与实践.docx

微机原理与接口技术课程研究性教学的探索与实践.docx

华为公司业务变革与IT治理实践 (2).docx

中小银行全面风险治理体系框架的构建.docx

新闻流实时话题挖掘框架与算法研究 .docx

04-华为公司业务变革与IT治理实践 .docx

04-华为公司业务变革与IT治理实践.docx

面向金融模型海量估值的复杂计算框架的建设和实践 .docx

贵州省政务数据治理探索与实践.docx

华为高管揭秘公司业务变革与IT治理实践.docx

04-华为公司业务变革与IT治理实践 (2).docx

隐私计算场景下数据质量治理探索与实践.docx

华为高管揭秘公司业务变革与IT治理实践 (2).docx

钢铁工业智能制造与人工智能实践路径与思考.docx

关于石化项目施工框架招标的探索与实践.docx

IT治理与审计最佳实践.docx

基于Blackboard学习平台的混合学习模式的探索与实践.docx

FlutterWeb性能优化探索与实践.docx

相关实用应用程序（Windows可用）

免费可用的ChatGPT网页版.zip

ChatGPT使用总结：150个ChatGPT提示词模板（完整版）

chromedriver-win64.zip

李飞飞自传 我看见的世界 The World I see

全国计算机二级WPSoffice精选350道选择题题库（含答案）.pdf

哈尔滨工业大学-ChatGPT调研报告-2023.3.6-94页.pdf

农村公交与异构无人机协同配送优化

4个亲测好用的ChatGPT4渠道

学术海报模板+论文科研+研究生

北森能力测评题库.zip

最新资源

城市轨道交通行车关键设备主动运维系统探索与实践.docx

李飞飞自传我看见的世界 The World I see