Attention Guided Network for Retinal Image Segmentation

论文地址：https://arxiv.org/abs/1907.12930
代码：https://github.com/HzFu/AGNet

结构如下·：

文章提出了一种结合了attention和filter的网络结构，主干是M—NET，网络的输入是mutil-scale，每一层都会额外输入一个对应尺度的原图像，这样做可以防止一些原图信息在下采样操作时丢失。文章的亮点在于AG模块，AG模块结合了attention机制和Guided Filter。

AG模块结构如下：

 

Fig 2展示了注意力引导滤波器的处理流程。首先通过Attention Block产生注意力图谱T，然后根据T经过均值滤波和一个局部线性模型获得低分辨路的Al Bl,随后通过双线性插值获得高分辨率的Ah Bh,基于以上两个参数产生最终的高分辨率输出Obar。
为了确定ak bk这两个现形系数，通过最小化窗内每一像素点Oki与原始Oi之间的差异。
其中lambda是一个正则化参数，Ti表示该点的注意力权重，那么ak bk的解可以如此计算得到。

Guided Image Filter：

输入： 原图p 和一个指导图像 I
输出： 图像q

在图像I中的每个Window计算两个参数a和b，然后输出图像q中的每个像素值由I中对应的像素通过线性计算得到（保证了梯度一致）。其中a和b的计算由最小化图像q和原图p之间的像素误差来得到：

还有一个问题就是一个像素i包含在不止一个Window中，由不同Window对应的a和b计算出的值可能不同，文章采用的方法是将从所有相关的Window求出的像素值取平均：

AG block 采用了这样的一个Guided Filter，但是同时结合了attention，前面得到的attention map T在求a和b两个参数时发挥了作用，作者定义了函数为：

通过对这个函数求最小值来得到ab值，其中Ti是对应attention map 在像素i位置的attention
weight。 

 Part B Attention Block

注意力模块主要用来突出前景物体，减少背景带来的影响

Attention block的流程参见Fig 3，主要分三步走：


（1）对输入的特征图Il和O进行通道卷积，这可以称为基于向量级联的注意力，级联后的特征被线性映射到隐空间；


（2）将两个线性变换晚的特征图进行逐点加法后再经过ReLU激活；


（3）进行1x1卷积以及Sigmoid激活得到最终的注意力图谱。