生成对抗网络前言（3）——其他自动编码器介绍（稀疏自动编码器、深度自动编码器、卷积自动编码器、序列到序列的自动编码器）及自动编码器在图像去噪领域的应用

一、稀疏自编码器

在自动编码器中，我们的隐含层有32个神经元。这种情况下，一般而言自动编码器学到的是PCA的一个近似。但是如果我们对隐含层单元施加稀疏性约束的话，会得到更为紧凑的表达，只有一小部分神经元会被激活。在Keras中，我们可以通过添加一个activity_regularizer达到对某层激活值进行约束的目的。 部分代码如下：

from keras import regularizers
# 建立一个全连接的编码器
encoding_dim = 32  # 编码大小
input_img = Input(shape