2021-面向深度学习的公平性研究综述1
需积分: 0 90 浏览量
2022-08-04
00:41:41
上传
评论
收藏 1.71MB PDF 举报
计 算 机 研 究 与 发 展
DOI
:
１０．７５４４∕issn１０００Ｇ１２３９．２０２１．２０２００７５８
JournalofCom
p
uterResearchandDevelo
p
ment ５８
(
２
):
２６４ ２８０
,
２０２１
收稿日期
:
２０２０
－
０９
－
１５
;
修回日期
:
２０２０
－
１０
－
２８
基金项目
:
国家自然科学基金项目
(
６２０７２４０６
);
浙江省自然科学基金项目
(
LY１９F０２００２５
);
宁波市
“
科技创新
２０２５
”
重大专项
(
２０１８B１００６３
)
Thisworkwassu
pp
ortedb
y
theNationalNaturalScienceFoundationofChina
(
６２０７２４０６
),
theNaturalScienceFoundationof
Zhe
j
ian
g
Province
(
LY１９F０２００２５
),
andthe Ma
j
orS
p
ecialFundin
g
for
“
Scienceand Technolo
gy
Innovation２０２５
”
in Nin
g
bo
(
２０１８B１００６３
)
．
面向深度学习的公平性研究综述
陈 晋 音
１
,
２
陈 奕 芃
２
陈 一 鸣
２
郑 海 斌
２
纪 守 领
３
时
杰
４
程
瑶
４
１
(
浙江工业大学网络空间安全研究院
杭州
３１００２３
)
２
(
浙江工业大学信息工程学院
杭州
３１００２３
)
３
(
浙江大学计算机科学与技术学院
杭州
３１００５８
)
４
(
华为国际有限公司新加坡研究院
新加坡
１３８５８９
)
(
chen
j
in
y
in＠z
j
ut．edu．cn
)
FairnessResearchonDee
p
Learnin
g
ChenJin
y
in
１
,
２
,
ChenYi
p
en
g
２
,
ChenYimin
g
２
,
Zhen
g
Haibin
２
,
JiShoulin
g
３
,
ShiJie
４
,
andChen
g
Yao
４
１
(
Instituteo
f
C
y
bers
p
aceSecurit
y
,
Zhe
j
ian
g
Universit
y
o
f
Technolo
gy
,
Han
g
zhou
３１００２３
)
２
(
Colle
g
eo
f
In
f
ormationEn
g
ineerin
g
,
Zhe
j
ian
g
Universit
y
o
f
Technolo
gy
,
Han
g
zhou
３１００２３
)
３
(
Colle
g
eo
f
Com
p
uterScienceandTechnolo
gy
,
Zhe
j
ian
g
Universit
y
,
Han
g
zhou
３１００５８
)
４
(
HuaweiInternationalPteLtd
,
Sin
g
a
p
ore
１３８５８９
)
Abstract Dee
p
learnin
g
isanim
p
ortantfieldofmachinelearnin
g
research
,
whichiswidel
y
usedin
industr
y
for its
p
owerful feature extraction ca
p
abilities and advanced
p
erformance in man
y
a
pp
lications．However
,
duetothebiasintrainin
g
datalabelin
g
andmodeldesi
g
n
,
researchshowsthat
dee
p
learnin
g
ma
y
a
gg
ravatehumanbiasanddiscriminationinsomea
pp
lications
,
whichresultsin
unfairnessdurin
g
thedecisionＧmakin
gp
rocess
,
thereb
y
willcausene
g
ativeim
p
acttobothindividuals
andsocials．Toim
p
rovethereliabilit
y
ofdee
p
learnin
g
and
p
romoteitsdevelo
p
mentinthefieldof
fairness
,
wereviewthesourcesofbiasindee
p
learnin
g
,
debiasin
g
methodsfordifferentt
yp
esbiases
,
fairness measure metricsfor measurin
g
the effectof debiasin
g
,
and current
p
o
p
ular debiasin
g
p
latforms
,
basedontheexistin
g
research work．Intheend weex
p
loretheo
p
enissuesinexistin
g
fairnessresearchfieldandfuturedevelo
p
menttrends．
Ke
y
words dee
p
learnin
g
;
al
g
orithmfairness
;
debiasin
g
method
;
fairnessmetric
;
machinelearnin
g
摘
要
深度学习是机器学习研究中的一个重要领域
,
它具有强 大的特 征提取 能力
,
且在许 多应用 中表
现出先进的性能
,
因此在工业界中被广泛应用
．
然而
,
由于训练数据标注和模型设计存在偏见
,
现有的研
究表明深度学习在某些应用中可能会强化人类的偏见和歧视
,
导致决策过程中的不公平现象产生
,
从而
对个人和社会产生潜在的负面影响
．
为提高深度 学习的 应用可 靠性
、
推动其 在公平 领域的 发展
,
针对已
有的研究工作
,
从数据和模型
２
方面出发
,
综述了深度学习应用中的偏 见来源
、
针对不 同类型 偏见的 去
偏方法
、
评估去偏效果的公平性评价指标
、
以及目前主流的去偏平台
,
最后总 结现有 公平性 研究领 域存
在的开放问题以及未来的发展趋势
．
关键词
深度学习
;
算法公平性
;
去偏方法
;
公平性指标
;
机器学习
中图法 分类号
TP３９１
剩余16页未读，继续阅读
资源评论
