2021-分布式深度学习隐私与安全攻击研究进展与挑战1
需积分: 0 195 浏览量
2022-08-03
20:20:29
上传
评论
收藏 2.88MB PDF 举报
计 算 机 研 究 与 发 展
DOI
:
１０．７５４４∕issn１０００Ｇ１２３９．２０２１．２０２００９６６
JournalofCom
p
uterResearchandDevelo
p
ment ５８
(
５
):
９２７ ９４３
,
２０２１
收稿日期
:
２０２０
－
１１
－
２５
;
修回日期
:
２０２１
－
０２
－
０９
基金项目
:
国家自然科学基金项目
(
６２０７２２３９
,
６２００２１６７
);
广西可信软件重点实验室研究课题
(
KX２０２０２９
);
中央高校基本科研业 务费专 项资
金
(
３０９２００２１１２９
)
Thiswork wassu
pp
orted b
y
the NationalNaturalScience Foundation ofChina
(
６２０７２２３９
,
６２００２１６７
),
the Guan
g
xiKe
y
Laborator
y
ofTrustedSoftware
(
KX２０２０２９
),
andtheFundamentalResearchFundsfortheCentralUniversities
(
３０９２００２１１２９
)
．
通信作者
:
付安民
(
fuam＠n
j
ust．edu．cn
)
分布式深度学习隐私与安全攻击研究进展与挑战
周 纯 毅
１
,
２
陈 大 卫
１
王
尚
１
付 安 民
１
,
２
高 艳 松
１
１
(
南京理工大学计算机科学与 工程学 院
南京
２１００９４
)
２
(
桂林电子科技大学广西可信 软件重 点实验 室
广西桂林
５４１００４
)
(
zhouchun
y
i＠n
j
ust．edu．cn
)
ResearchandChallen
g
eofDistributedDee
p
Learnin
g
Privac
y
andSecurit
y
Attack
ZhouChun
y
i
１
,
２
,
ChenDawei
１
,
Wan
g
Shan
g
１
,
FuAnmin
１
,
２
,
andGaoYanson
g
１
１
(
Schoolo
f
Com
p
uterScienceandEn
g
ineerin
g
,
Nan
j
in
g
Universit
y
o
f
Science
&
Technolo
gy
,
Nan
j
in
g
２１００９４
)
２
(
Guan
g
xiKe
y
Laborator
y
o
f
TrustedSo
f
tware
,
GuilinUniversit
y
o
f
ElectronicTechnolo
gy
,
Guilin
,
Guan
g
xi
５４１００４
)
Abstract Differentfromthecentralizeddee
p
learnin
g
mode
,
distributeddee
p
learnin
gg
etsridofthe
limitationthatthedatamustbecentralizeddurin
g
themodeltrainin
gp
rocess
,
whichrealizesthelocal
o
p
eration ofthe data
,
and allows all
p
artici
p
ants to collaborate without exchan
g
in
g
data．It
si
g
nificantl
y
reducestheriskofuser
p
rivac
y
leaka
g
e
,
breaksthedataislandfromthetechnicallevel
,
andim
p
rovestheefficienc
y
ofdee
p
learnin
g
．Distributeddee
p
learnin
g
canbewidel
y
usedinsmart
medicalcare
,
smartfinance
,
smartretailandsmarttrans
p
ortation．However
,
t
yp
icalattackssuchas
g
enerativeadversarialnetworkattacks
,
membershi
p
inferenceattacksandbackdoorattacks
,
have
revealedthatdistributeddee
p
learnin
g
stillhasserious
p
rivac
y
vulnerabilitiesandsecurit
y
threats．
This
p
a
p
erfirstcom
p
aresandanal
y
zesthecharacteristicsofthethreedistributeddee
p
learnin
g
modes
andtheircore
p
roblems
,
includin
g
collaborativelearnin
g
,
federatedlearnin
g
ands
p
litlearnin
g
．
Secondl
y
,
from the
p
ers
p
ectiveof
p
rivac
y
attacks
,
itcom
p
rehensivel
y
ex
p
oundsvarioust
yp
esof
p
rivac
y
attacksfacedb
y
distributeddee
p
learnin
g
,
andsummarizestheexistin
gp
rivac
y
attackdefense
methods．Atthesametime
,
fromthe
p
ers
p
ectiveofsecurit
y
attacks
,
the
p
a
p
eranal
y
zestheattack
p
rocessandinherentsecurit
y
threatsofthethreesecurit
y
attacks
:
data
p
oisonin
g
attacks
,
adversarial
sam
p
leattacks
,
andbackdoorattacks
,
andanal
y
zestheexistin
g
securit
y
attackdefensetechnolo
gy
fromthe
p
ers
p
ectivesofdefense
p
rinci
p
les
,
adversar
y
ca
p
abilities
,
anddefenseeffects．Finall
y
,
from
the
p
ers
p
ectiveof
p
rivac
y
andsecurit
y
attacks
,
thefutureresearchdirectionsofdistributeddee
p
learnin
g
arediscussedand
p
ros
p
ected．
Ke
y
words dee
p
learnin
g
;
distributeddee
p
learnin
g
;
p
rivac
y
attack
;
p
rivac
yp
rotection
;
backdoor
attack
摘
要
不同于集中式深度学习模式
,
分布式深度学 习 摆 脱 了模 型训练 过程中 数据必 须中 心 化的 限 制
,
实现了数据的本地操作
,
允许各方参与者在不交换数据的情况下进行协作
,
显著降低了用户隐私泄露风
险
,
从技术层面可以打 破 数 据 孤 岛
,
显 著 提 升 深 度 学 习 的 效 果
,
能 够 广 泛 应 用 于 智 慧 医 疗
、
智 慧 金 融
、
剩余16页未读，继续阅读
评论0