当前位置：网站首页>《深度学习》学习笔记（八）

《深度学习》学习笔记（八）

2022-04-23 07:59:00 【白炎灵】

本篇博文主要就是介绍Adversarial Attack。

文章目录

Motivation
example of attack
How to attack
attack approach
white box v.s. black box
attack in the physical world
adversarial reprogramming
"backdoor" in model
Defense
- passive defense
- proactive defense

Motivation

在这里插入图片描述

example of attack

在照片的矩阵上加上杂讯（attacked image）
在这里插入图片描述

两张照片是有差别的

How to attack

在这里插入图片描述
计算图片的距离有很多种方法
其中 $d(x^0,x)$ need to consider human perception.

attack approach

在这里插入图片描述

white box v.s. black box

在这里插入图片描述
黑箱攻击在non-targeted时更容易成功
部分人认为，data是造成adversarial attack的元凶。
其他类型的数据也可能会被attack

attack in the physical world

在这里插入图片描述
车牌辨识系统：

adversarial reprogramming

在这里插入图片描述

“backdoor” in model

有可能在训练资料中就加入了attack
在这里插入图片描述

Defense

passive defense

在这里插入图片描述
稍微模糊化，即可defense，attack成功的讯号是比较特殊的，可能是某个方向上的某种。

但是模糊化比较严重的的时候，也可能会产生某种side effect

另一种defense的方法是randomization

proactive defense

在这里插入图片描述

版权声明
本文为[白炎灵]所创，转载请带上原文链接，感谢
https://blog.csdn.net/weixin_43135165/article/details/124337908

边栏推荐

猜你喜欢

随机推荐