深度可分离卷积

2024-07-11 03:49| 来源: 网络整理| 查看: 265

如果我告诉你，有一个层可以替代Conv2D，并且可以让模型更加轻量（即更少的可训练权重参数）、速度更快（即更少的浮点数运算），还可以让任务性能提高几个百分点，那么如何呢？

深度可分离卷积（depthwise separable convolution）（SeparableConv2D）就可以做到这一点。这个层对输入的每个通道分别执行空间卷积，然后通过逐点卷积（1*1卷积）将输出通道混合。

在这里插入图片描述

这相当于将空间特征学习和通道特征学习分开，如果你假设输入中的空间位置高度相关，但不同通道之间相对独立，那么这么做是有意义的。它需要的参数要少很多，计算量也更小，因此可以得到更小更快的模型。因为它是一种执行卷积更高效的方法，所以往往可以使用更少的数据学到更好的表示，从而得到性能更好的模型。

如果只用有限的数据从头开始训练小型模型，这些优点就会变得更加重要。例如，下面这个示例就是在小型数据集上构建一个轻量的深度可分离卷积网络，用于图像分类任务（softmax多分类）

from keras.models import Sequential, Model from keras import layers height = 64 width = 64 channels = 3 num_classes = 10 model = Sequential

【本文地址】

公司简介

联系我们