空洞深度卷积相关理论基础

1. 空洞空间金字塔池化

空洞卷积是在标准卷积的每个参数之间插入空洞,即设置空洞处为 0,可以在保证与原标准卷积参数量保持一致的基础上,扩大感受野,使得每个卷积核可以获取更大范围信息,避免了池化操作带来的空间位置信息丢失问题,空间金字塔池化通过设置不同的池化窗口和滑动步长可以获取不同的特征,因此,将空洞卷积与空间金字塔池化模块相结合就得到了空洞空间金字塔池化模块,通过该模块可以提取目标的不同特征,扩大了感受野,且不会增加参数量。DeepLab V2便很好的利用了空洞空间金字塔池化模型,提取了多尺度的特征信息。


2. 深度可分离卷积

深度可分离卷积,顾名思义就是将深度分离出来,该方法在原始卷积的基础上进行修改,将原卷积分为Depthwise和Pointwise过程,实现了将通道和空间的独立,Depthwise过程对每个通道提取特征,Pointwise过程即 1*1 卷积,对通道上的每个像素点提取特征,因此两个过程相当于一个标准卷积操作,但是相对于标准卷积操作来说,减少了参数量。Xception利用深度可分离卷积,不仅实现了通道和空间区域的独立运算,而且减少了参数量,提升了计算速度,Mobilenet V2是引入了深度可分离卷积,实现了推理的实时性。


3. 分解卷积

分解卷积,顾名思义就是将一个卷积分解为多个卷积,如将 5*5 的卷积分成两个 3*3的卷积,将 3*3 的卷积分解成 3*1 和 1*3 的卷积。ENet是一个经典的实时语义分割模型,该方法将池化层和卷积层并行运算合并,并引入n*1 和 1*n卷积级联代替n*n卷积,以此来降低模型的参数量和计算量,DABNet提出了一个DABModule,将空洞卷积和标准卷积分别进行分解,将得到的特征图进行相加融合,DABNet-Light在DABNet的基础上,将DABModule中的标准卷积替换成了深度空洞卷积,进一步降低了网络复杂度,Inception V3通过对卷积操作的分解进一步降低了参数量和计算量,FDDWNET将分解卷积、深度可分离卷积以及空洞卷积进行结合,提出了分解空洞深层卷积,最大程度上降低了参数量和计算量,ADSCNet在空洞卷积和分解卷积的基础上结合密集连接实现了实时性的语义分割模型。


4. 子像素卷积

Sub-pixel Convolution是文献提出的,除去双线性插值、最近邻插值、反卷积等之外的一种巧妙的特征图上采样方法,该方法不需要调参,也不需要人为插值,通过对所有特征图进行周期性的筛选即可达到上采样的目的ExFuse中就是利用Sub-pixel Convolution代替原始的解卷积来对特征图进行上采样,m IoU增长了 0.5%。


本文转自:人工智能感知信息处理算法研究院,转载此文目的在于传递更多信息,版权归原作者所有。如不支持转载,请联系小编demi@eetrend.com删除。

最新文章