2023/6/28 22:24
颠覆认知!数据增强、正则化可导致不易察觉的灾难?
https://mp.weixin.qq.com/s/qJE8T4iNM4rm3w_CGdp7eQ
1/5
颠覆认知!数据增强、正则化可导致不易察觉的灾难?
收录于合集
#卖萌屋@自然语言处理
97个
文 | 子 龙
编 | 智 商 掉 了 一 地
作为常用的炼丹技巧,正则化 (Regularization) 和数据增强 (Data Augmentation, DA) 常常被
简单粗暴地引 入模型中来防止 数据过 拟合,进 而提升 最后的 performance。 如果说 ,更高的
performance就意味着更好的泛化能力,那么形式并不复杂的正则化和数据增强简直就是各大
排名的屠榜利器、人工智能的指路明灯。然而,事情并不会这么简单,万事皆有代价,今天介
绍的文章将会指出:虽 然 引 入 正 则 化 和 数 据 增 强 表 面 上 能 够 提 高 模 型 的 整 体 效 果 , 但 却 会
导 致 类 别 之 间 的 不 均 衡 问 题 。简单来说,就是虽然平均来看,整体效果有所提升,但其中却
牺牲了部分类别的效果,而“偏心”于另外一些类别。
论 文 题 目 :
The Effects of Regularization and DataAugmentation are Class Dependent
论 文 链 接 :
https://arxiv.org/abs/2204.03632
Arxiv访问慢的小伙伴也可以在 【夕 小 瑶 的 卖 萌 屋 】订阅号后台回复关键词 【0609】 下载论
文PDF~
子龙 2022-06-09 12:05 发表于四川
原创
夕小瑶科技说