一文读懂自编码器(AutoEncoder)

自动编码器是一种无监督的数据维度压缩和数据特征表达方法。在大部分提到自动编码器的场合，压缩和解压缩的函数是通过神经网络实现的。

一个简单的自编码器结构如下所示：

可以看到上述结构只有一个隐藏层，从输入到隐藏层即为Encoder（编码器），从隐藏层到输出即为Decoder（解码器）。

那么自编码器这么简单的结构如何达到降维的目的呢？我们知道，一个最简单的自编码器（上图所示）只有三层结构，编码器将输入进行编码，变成中间结果，中间结果再经过解码器还原，这种输入等于输出的结构没有什么实际意义。对于上述结构，如果我们只看左边部分，即编码器的部分，就很容易理解降维的原理：隐藏层神经元的数目远低于输入层，那么我们就可以用更少的特征（神经元）去表征输入数据，从而到降维目的。

对于样本x，自编码器的中间隐藏层的活性值为x的编码，即：

自编码器的输出为重构的数据：

其中，�(1),�(2),�(1),�(2)是自编码器网络的参数，参数经梯度下降训练得到。

因此，搭建一个自编码器需要以下几个步骤：

输入和输出完全相同，即上面提到的这种。

对于很多数据来说， 仅使用两层神经网络的自编码器还不足以获取一种好的数据表示。为了获取更好的数据表示， 我们可以使用更深层的神经网络。深层神经网络作为自编码器提取的数据表示一般会更加抽象， 能够更好地捕捉到数据的语义信息。

在实践中经常使用逐层堆叠的方式来训练一个深层的自编码器，称为堆叠自编码器（Stacked Auto-Encoder， SAE）。堆叠自编码器一般可以采用逐层训练（Layer-Wise Training）来学习网络参数。

举一个具体的例子：

可以看到，相比于普通的自编码器，我们将隐藏层的个数从1增加到3，其实就是三个普通自编码器堆叠而成。 训练过程如下：

三个自编码器训练完毕后，最后要进行的是整体的反向调优训练，即整体网络使用反向传播进行训练，对参数进行微调。

我们使用自编码器是为了得到有效的数据表示， 而有效的数据表示除了具有最小重构错误或稀疏性等性质之外，还可以要求其具备其他性质，比如对数据部分损坏（Partial Destruction）的鲁棒性。高维数据（比如图像）一般都具有一定的信息冗余，比如我们可以根据一张部分破损的图像联想出其完整内容。因此， 我们希望自编码器也能够从部分损坏的数据中得到有效的数据表示， 并能够恢复出完整的原始信息，降噪自编码器便应运而生。

降噪自编码器（Denoising Auto-Encoder）就是一种通过引入噪声来增加编码鲁棒性的自编码器。

工作原理：对于一个向量�，我们首先根据一个比例�将x的某些维度设置为0，得到一个被损坏的向量�^，要注意，损坏比例一般不超过0.5，另外，也可通过引入高斯噪声来损坏数据。

我们把损坏的数据�^送给自编码器的输入端，并要求它通过编码+解码两个步骤重构出无损的原始输入。那么当输入一个没有经过损坏的数据时，我们就能将其恢复到更理想的状态。

因此，降噪自编码器的思想十分简单， 通过引入噪声来学习更鲁棒性的数据编码，并提高模型的泛化能力。

一般来说，自编码器的隐层节点数小于输入层的节点数，比如前面所述，为了达到降维的目的，一般使隐藏层神经元个数小于输入层神经元个数。但假设我们并不限制隐藏层神经元个数，而是限制了其中一部分神经元的活性，如下所示：

隐藏层中，浅蓝色的神经元被抑制了活性。

稀疏自编码器的目标函数中我们加入了一个正则化项，用于防止过拟合，如下所示：

其中Z= [z(1), ⋯ , z(N)]表示所有训练样本的编码，�(�)为稀疏性度量函数， 表示自编码器中的参数。

一般而言，我们不会指定隐层表达h中哪些节点是被抑制的，而是指定一个稀疏性参数ρ，代表隐藏神经元的平均活跃程度（在训练集上取平均）。比如，当ρ=0.05时，可以认为隐层节点在95%的时间里都是被抑制的，只有5%的机会被激活。

欠完备自编码器为了得到有用信息，会限制编码维度小于输入维度，因为隐层编码维数小于输入维数，可以学习数据分布中最显著的特征。

但是，若中间隐层单元数特别少，则其表达信息有限，会导致重构过程比较困难。

普通自编码器训练目的就是为了使得输入等于输出，因此，损失函数loss可以设计如下：

公式中各项意义一目了然，不再解释。

给自编码器中隐藏层单元加上稀疏性限制，在学习的过程中，均方误差可能变得很小，这样会导过拟合，而我们期望的是一个泛化能力很强的编码器，所以我们加入L1正则化来抑制过拟合。

目标函数设计如下：

最后一项为正则化项，中间为稀疏操作。