本项目基于飞桨PaddlePaddle实现。
项目内容为百度AI安全对抗赛第一名团队示例代码,基于官方给出的PGD修改,主要内容为L2-PGD+EOT。
该团队成功攻击了赛事主办方给出全部模型和全部图片,达到了100%的白盒攻击+黑盒迁移攻击成功率,同时获得了全场最低的MSE。
比赛中使用的攻击思想已放入attack_demo.ipynb
如需要复现完整攻击,请下载如下数据集: AIStudio链接并参考目录src下的文件
- 使用$L_2$ norm约束对抗样本的扰动
- 合理定义loss函数实现confidence较高的对抗样本
更多细节可参考 write up
比赛链接:https://aistudio.baidu.com/aistudio/competition/detail/15
PaddlePaddle官方文档: https://www.paddlepaddle.org.cn/