基于自适应像素去噪的对抗攻击防御方法

Adversarial attack defense method based on adaptive pixel denoising

二维码有效期 120s

摘要针对深度神经网络容易遭到对抗样本攻击导致其分类错误的问题,提出一种基于自适应像素去噪的对抗攻击防御方法.通过基于前向导数的重要性计算方法获得像素重要性分数,根据像素重要性分数对多种对抗攻击进行鲁棒性分析,将其分为鲁棒或非鲁棒攻击,制定针对不同对抗攻击的降噪策略;按照降噪策略分别对重要性分数不同的图像像素进行自适应形态学降噪获得像素去噪图像;使用像素重要性分数、像素去噪图像等信息训练自适应像素去噪模型学习上述去噪过程,进行对抗防御.实验结果表明,该防御能在多个数据集与模型上快速且有效地防御各种对抗攻击,确保原始样本的精确分类.

作者张帅 ^[1] 张晓琳 ^[1] 刘立新 ^[2] 王永平 ^[1] 郝琨 ^[3] 徐立 ^[4] 学术成果认领

作者单位内蒙古科技大学信息工程学院,内蒙古包头 014010 ^[1] 内蒙古科技大学信息工程学院,内蒙古包头 014010;中国人民大学信息学院,北京 100872 ^[2] 东北大学医学与生物信息工程学院,辽宁沈阳 110169 ^[3] 包头医学院计算机科学与技术系,内蒙古包头 014010 ^[4]

关键词深度神经网络图像分类对抗样本鲁棒性自适应像素去噪对抗样本防御

分类号 TP309

栏目名称 信息安全技术

DOI 10.16208/j.issn1000-7024.2023.05.008

发布时间 2023-05-25

基金项目

国家自然科学基金 内蒙古自然科学基金项目 内蒙古自然科学基金项目