李坚强教授团队及合作者在计算机科学与技术领域的权威性学术刊物、CCF推荐A类中文科技期刊《计算机学报》发表论文“基于压缩感知的神经网络实时综合防御策略”，并获《计算机学报》公众号两次发文推荐：1）AI 安全| 基于压缩感知的神经网络实时综合防御策略(qq.com) ； 2）美文推荐：基于压缩感知的神经网络实时综合防御策略(qq.com) （点击链接查看）

该工作指出，近年来，基于深度神经网络的视觉识别模型因其在准确率、成本及效率等方面的优势而广泛应用于自动驾驶、工业检测及无人机导航等领域. 而深度神经网络自身易受数字域或物理域对抗样本攻击导致模型误判，因此其在无人驾驶等具有强鲁棒性、高实时性要求的场景中，部署和应用精度高且对多类对抗攻击均具有强鲁棒性的实时综合防御策略成为深度神经网络视觉方案落地应用的关键. 该项工作针对上述安全问题，基于压缩感知技术提出一种神经网络实时综合防御策略ComDCT。

文章首先通过构建图像压缩感知压缩域与其稀疏离散余弦系数之间的映射神经网络，并将网络输出的离散余弦系数通过离散余弦逆变换恢复为去除对抗性扰动的图像作为分类器输入，以降低对抗样本攻击成功率。

其次，文章提出通过引入分类损失进一步提升防御策略综合性能，并根据防御者是否掌握分类模型参数结构等信息分析讨论并验证了黑盒、白盒两种模式下引入分类损失有效性。

相比于ComDefend、MF、TVD、LRR 等多种防御方法，本文提出的基于压缩感知的神经网络实时综合防御策略在白盒防御模式下防御性能综合指标PDA 在LISA、SVHN 数据集上分别提升11.88%、7.01%以上，黑盒防御模式下分别提升9.25%、6.7%以上。

综上所述，为了提高深度神经网络分类模型对于对抗样本的鲁棒性以将其安全地应用于无人驾驶等领域，本文提出了基于压缩感知的神经网络实时综合防御策略，有效提升分类模型对像素攻击和补丁攻击的防御性能，拥有更强综合鲁棒性. 该工作得到了国家自然科学基金委、广东省科技厅、深圳市科创委等多项基金项目支持。

论文：王佳，张扬眉，苏武强，罗成文，吴超，林秋镇，李坚强，基于压缩感知的神经网络实时综合防御策略，计算机学报，2023, 46(1):16.

可点击下方“阅读原文”，访问文章相关链接或二维码。

阅读原文