Neuromatch Academy课程：自编码器应用与MNIST认知任务分析

摘要

本文基于Neuromatch Academy课程中关于自编码器的教学内容，深入探讨自编码器在MNIST手写数字识别任务中的应用。我们将分析自编码器如何感知和处理经过变换的数据（如添加噪声、部分遮挡和旋转），以及如何利用自编码器可视化未见过的数字类别。文章还将比较人工神经网络(ANN)与人类视觉系统在图像编码方面的差异。

1. 自编码器简介

自编码器(Autoencoder)是一种特殊的人工神经网络架构，由编码器和解码器两部分组成。编码器将输入数据压缩到潜在空间(latent space)，解码器则尝试从潜在表示重建原始输入。这种结构使其在数据降维、特征提取和数据去噪等任务中表现出色。

在MNIST手写数字数据集上，自编码器能够学习到数字的有效低维表示，这对于理解神经网络如何处理视觉信息具有重要意义。

2. 实验设置与数据准备

2.1 数据加载与预处理

我们使用MNIST数据集，包含60,000个训练样本和10,000个测试样本。每个样本是28×28像素的灰度图像，代表0-9的手写数字。

def downloadMNIST():
    X, y = fetch_openml('mnist_784', version=1, return_X_y=True, as_frame=False)
    n_train = 60000
    n_test = 10000
    
    train_idx = np.arange(0, n_train)
    test_idx = np.arange(n_train, n_train + n_test)
    
    x_train, y_train = X[train_idx], y[train_idx]
    x_test, y_test = X[test_idx], y[test_idx]
    
    x_train = torch.from_numpy(np.reshape(x_train, (len(x_train), 28, 28)).astype(np.float32))
    x_test = torch.from_numpy(np.reshape(x_test, (len(x_test), 28, 28)).astype(np.float32))
    
    y_train = torch.from_numpy(y_train.astype(int))
    y_test = torch.from_numpy(y_test.astype(int))
    
    return (x_train, y_train, x_test, y_test)

2.2 自编码器架构

我们使用全连接神经网络构建自编码器，包含以下关键组件：

• 编码器：将784维(28×28)输入压缩到潜在空间(通常为2维用于可视化)
• 解码器：从潜在空间重建原始图像

3. 自编码器在变换数据上的表现

3.1 噪声数据重建

我们首先测试自编码器对添加噪声的MNIST图像的重建能力。通过向原始图像添加高斯噪声，观察自编码器能否有效去除噪声并恢复原始图像特征。

def add_noise(images, noise_level=0.5):
    noise = torch.randn_like(images) * noise_level
    return torch.clamp(images + noise, 0, 1)

实验结果表明，经过训练的自编码器能够有效去除噪声，保留数字的主要结构特征。这种去噪能力源于自编码器学习了数据的本质特征，而非表面的噪声模式。

3.2 部分遮挡数据重建

我们模拟图像被部分遮挡的情况，观察自编码器如何补全缺失的信息：

def occlude_image(image, occlusion_size=10):
    occluded = image.clone()
    h, w = image.shape
    x = np.random.randint(0, w - occlusion_size)
    y = np.random.randint(0, h - occlusion_size)
    occluded[y:y+occlusion_size, x:x+occlusion_size] = 0
    return occluded

有趣的是，自编码器能够根据周围像素合理推断被遮挡部分的内容，这种能力类似于人类的视觉完形(gestalt)现象。

3.3 旋转数据重建

我们测试自编码器对旋转数字的感知能力：

def rotate_image(image, angle):
    return ndimage.rotate(image, angle, reshape=False)

结果显示，未经专门训练的自编码器对旋转数字的重建效果较差，说明标准自编码器对旋转变化不具有不变性。但通过数据增强训练，可以显著提高其旋转鲁棒性。

4. 可视化未见数字类别

自编码器的潜在空间具有连续性，我们可以探索潜在空间中未见数字类别的表示：

def plot_generative(x, decoder_fn, image_shape, n_row=16, s2=False):
    # 在潜在空间生成网格点
    # 使用解码器生成对应图像
    # 可视化结果

这种方法可以生成介于两个数字之间的"混合"数字，揭示数字类别在潜在空间中的连续变化规律。例如，我们可能观察到数字"3"逐渐转变为数字"8"的过渡过程。

5. 自编码器与人类视觉的比较

通过分析自编码器的潜在空间表示，我们发现：

1. 特征组织：相似数字在潜在空间中倾向于聚集在一起，这与人类对数字的认知分类一致。
2. 边界清晰度：数字类别在潜在空间中的边界比人类认知更为明确，缺乏模糊过渡区域。
3. 不变性：人类视觉对大小、位置和轻微旋转具有更强的不变性，而标准自编码器需要专门训练才能获得类似能力。

6. 实用工具函数

课程提供了丰富的辅助函数，便于实验和分析：

• 权重初始化：Kaiming均匀分布和正态分布初始化
• 评估指标：MSE和BCE损失计算
• 可视化工具：潜在空间映射和生成图像可视化

def plot_latent(x, y, show_n=500, s2=False):
    # 在潜在空间绘制数字类别分布
    # 使用不同颜色标记不同数字

def plot_latent_generative(x, y, decoder_fn, image_shape, s2=False):
    # 组合显示潜在空间分布和生成图像网格

7. 结论与展望

本教程通过一系列实验揭示了自编码器在MNIST任务中的表现特性。关键发现包括：

1. 自编码器能够学习数据的本质特征，有效处理噪声和部分遮挡
2. 潜在空间提供了数据的有组织表示，可用于探索未见数据点
3. ANN的视觉编码与人类视觉系统既有相似之处，也有显著差异

未来工作可以探索更复杂的自编码器架构(如变分自编码器、卷积自编码器)以及在不同数据集上的表现。这些研究将深化我们对神经网络视觉处理的理解，并为开发更强大的视觉系统提供指导。