科研速递

近期，国际顶级学术期刊《Transactions on Pattern Analysis and Machine Intelligence》(简称IEEE TPAMI) 连续刊登了我院韦星星副教授作为第一作者的三项最新研究成果。IEEE TPAMI是人工智能领域公认的顶级期刊，在中国计算机学会（CCF）期刊会议推荐列表中为A类，是中科院一区TOP期刊，影响因子高达24.314。

这三篇TPAMI论文均围绕智能感知技术的安全性评估展开研究，可在模型结构和参数均未知的条件下对基于深度学习的智能感知模型实施有效对抗攻击，从而挖掘智能模型存在的安全漏洞，最终为在对抗环境下建立鲁棒安全的智能感知技术提供评估指标，具有重要的理论意义和应用价值。三篇论文的具体信息如下：

1.Xingxing Wei, Songping Wang, and Huanqian Yan: Efficient Robustness Assessment via Adversarial Spatial-Temporal Focus on Videos, TPAMI, online publish, 1-15, 2023.3

论文链接：https://ieeexplore.ieee.org/document/10086664

该论文针对高维视频数据带来的视频智能模型漏洞挖掘效率低下问题，提出使用多智能体强化学习框架同时在视频数据空间维度和时间维度进行降维处理，从而在黑盒条件下对视频智能模型的梯度进行高效准确的估计，最终实现对视频智能模型的快速漏洞挖掘。相比现有最优方法，该方法可在漏洞挖掘准确率提高5%的情况下，时间复杂度降低10%。

图1 基于多智能体协同交互的视频对抗攻击方法

2.Xingxing Wei, Ying Guo, and Jie Yu: Adversarial Sticker: A Stealthy Attack Method in the Physical World, TPAMI, (45)3, 2711-2725, 2023.3

论文链接：https://ieeexplore.ieee.org/document/9779913

该论文针对物理环境下面向目标检测识别系统的漏洞挖掘手段操作复杂性高的问题，设计了基于敏感位置寻优的对抗补丁构造方法，通过与目标检测识别系统进行少量交互，快速发现检测识别系统对目标的敏感区域，通过遮挡的方式实施对抗攻击，从而获取目标检测识别系统的非连续决策边界，进而为漏洞修复提供指导。相比现有主流物理攻击方法，本方法具有操作简便，隐蔽性高等优点。

图2 物理环境下基于敏感位置寻优的对抗补丁构造方法

3.Xingxing Wei, Ying Guo, Jie Yu, and Bo Zhang: Simultaneously Optimizing Perturbations and Positions for Black-Box Adversarial Patch Attacks, TPAMI, online publish, 1-13, 2022.12

论文链接：https://ieeexplore.ieee.org/document/9999043

该论文针对现有主流对抗补丁方法在进行模型漏洞挖掘时存在的准确性低问题，首次提出将对抗补丁的位置信息和内容信息进行联合优化的思路，并通过强化学习的数学框架设计了黑盒对抗攻击方法，从而提高对抗补丁面向目标检测识别系统漏洞挖掘时的准确性。相比最优的对抗补丁方法，漏洞挖掘准确率提升了10%。

图3 基于强化学习的高效对抗补丁构造方法