大家好，我是专注于计算机视觉和深度学习领域的技术博主。在探索视觉Transformer（ViT）模型的可解释性时，我们常常会好奇：这些基于自注意力机制的“黑盒”模型，是否像生物视觉系统一样，具备对特定视觉特征（如方向、边缘）的选择性？近期，一个名为IRIS的框架进入了我的视野，它从生物视觉皮层（Visual Cortex）中汲取灵感，为我们提供了一套系统化的工具，专门用于分析ViT模型中的方向选择性（Orientation Selectivity）。本文将带你从零开始，深入理解IRIS框架的设计理念，并手把手教你如何在自己的ViT模型上应用它，完成一次完整的可解释性分析实战。

1. 背景与核心概念：为什么需要分析ViT的方向选择性？

在深入代码之前，我们首先要搞清楚几个核心问题：什么是方向选择性？为什么它对理解ViT模型很重要？IRIS框架又扮演了什么角色？

1.1 生物视觉皮层的启示

在哺乳动物（包括人类）的初级视觉皮层（V1区）中，存在一种被称为“简单细胞”的神经元。这些细胞对特定朝向（如水平、垂直或倾斜）的边缘或光栅刺激反应最强烈，而对其他朝向的刺激反应微弱。这种特性就是方向选择性。它是生物视觉系统理解形状、轮廓和纹理的基础。

1.2 从CNN到ViT：可解释性的挑战

在卷积神经网络（CNN）中，我们可以相对直观地理解其工作原理：浅层卷积核学习边缘、纹理等低级特征，深层则组合这些特征形成更高级的语义。CNN的卷积核本身就在一定程度上模拟了V1区简单细胞的方向选择性。

然而，视觉Transformer（ViT）彻底抛弃了卷积归纳偏置，完全依赖自注意力机制和全连接层来处理图像块（Patches）。这使得我们很难直观判断ViT的某个神经元或注意力头是否对特定视觉特征（如方向）敏感。ViT的强大性能背后，其内部表征的本质是什么？它是否也“自发地”形成了类似生物视觉系统的特征选择性？这是当前可解释性AI研究的热点。

1.3 IRIS框架的定位与价值

IRIS（一个受视觉皮层启发的框架）应运而生。它不是一个新模型，而是一个分析工具包。其核心目标是：像神经科学家研究大脑皮层一样，系统地、定量地评估ViT模型内部表征的方向选择性。

IRIS的价值在于：

1. 标准化流程：提供了一套从刺激生成、模型响应记录到数据分析的完整流程，使不同研究间的结果可比。
2. 定量指标：定义了类似于神经科学中的“调谐曲线”、“偏好方向”、“选择性指数”等量化指标。
3. 可视化与洞察：帮助研究者定位ViT中对方向信息敏感的层、注意力头或神经元，从而加深对模型工作机制的理解。

简单来说，如果你想知道你的ViT模型到底“看”到了什么，IRIS提供了一把手术刀和一套显微镜。

2. 环境准备与依赖安装

工欲善其事，必先利其器。为了运行IRIS分析，我们需要搭建一个包含深度学习框架和科学计算库的Python环境。

2.1 基础环境要求

• 操作系统：Linux (Ubuntu 20.04/22.04) 或 macOS。Windows系统建议使用WSL2以获得最佳兼容性。
• Python：版本 3.8 或 3.9。推荐使用conda或venv创建独立的虚拟环境。
• CUDA（如使用GPU）：版本 11.3 或以上，确保与PyTorch版本匹配。

2.2 创建虚拟环境与安装核心依赖

我们首先创建一个干净的虚拟环境并安装PyTorch。

# 使用 conda 创建环境（推荐） conda create -n iris_analysis python=3.9 -y conda activate iris_analysis # 安装PyTorch（请根据你的CUDA版本访问官网获取最新安装命令） # 例如，对于CUDA 11.8 pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu118 # 或者安装CPU版本 # pip install torch torchvision torchaudio

2.3 安装IRIS框架及相关科学计算库

IRIS本身可能不是一个通过pip直接安装的包，而更可能是一个GitHub仓库。我们需要克隆其代码并安装其依赖。同时，我们需要安装用于生成刺激图像和数据分析的库。

# 1. 克隆IRIS框架代码库（此处为示例，请替换为实际仓库URL） git clone https://github.com/example-org/IRIS-framework.git cd IRIS-framework # 2. 安装项目依赖（如果存在requirements.txt） pip install -r requirements.txt # 3. 安装其他必要的科学计算和可视化库 pip install numpy scipy matplotlib seaborn pandas scikit-image tqdm ipython # 4. 安装用于更高级图像处理和实验控制的库（可选但推荐） pip install opencv-python scikit-learn

版本说明：深度学习生态更新迅速，IRIS框架可能对特定库版本有要求。如果运行中遇到兼容性问题，请根据其官方文档或requirements.txt调整版本。本文示例以常见稳定版本为基础，重点在于演示分析流程和思想。

3. IRIS框架核心原理与工作流拆解

在动手写代码前，我们必须理解IRIS是如何工作的。其核心流程模仿了神经科学实验，可以分为以下四个步骤：

3.1 刺激生成：给模型“看”什么？

我们需要生成一系列可控的视觉刺激，通常是正弦光栅（Sinusoidal Gratings）。这是研究方向选择性的标准刺激，包含几个关键参数：

• 方向（Orientation）：光栅条纹的朝向，从0°到180°（或0到π弧度）。
• 空间频率（Spatial Frequency）：条纹的疏密程度。
• 相位（Phase）：光栅的起始位置。
• 对比度（Contrast）：条纹的明暗对比强度。

IRIS会帮助我们系统性地生成覆盖不同方向（例如，以15°为间隔，共12个方向）的光栅图像。

3.2 响应记录：模型如何“反应”？

将生成的光栅图像依次输入到待分析的ViT模型中。我们需要在模型的特定位置“放置记录电极”——即提取中间层激活值。

• 记录位点：可以是某个Transformer Block后的输出，也可以是某个特定的注意力头（Attention Head）的输出，甚至是多层感知机（MLP）中间层的神经元。
• 响应值：对于每个刺激，记录该位点激活的某种统计量，如特定通道的均值、某个神经元的激活值、或注意力图的某种特征。

3.3 数据分析：计算方向选择性

这是IRIS的核心。对于每个被记录的“单元”（可以是一个通道、一个神经元或一个注意力头的某种特征），我们得到了一组数据：在不同方向刺激下的响应强度。

1. 绘制调谐曲线：以方向为横轴，响应强度为纵轴，绘制曲线。一个具有方向选择性的单元，其曲线会呈现明显的峰值。
2. 计算偏好方向：调谐曲线峰值对应的方向，即为该单元的偏好方向。
3. 计算选择性指数：常用指标包括方向选择性指数（Orientation Selective Index, OSI）。一种经典的计算方式是OSI = (R_pref - R_orth) / (R_pref + R_orth)，其中R_pref是偏好方向的响应，R_orth是与偏好方向垂直的方向的响应。OSI越接近1，选择性越强；越接近0，越无选择性。

3.4 可视化与统计：发现模式

最后，IRIS会将分析结果进行可视化：

• 绘制所有单元的偏好方向分布图（玫瑰图或直方图）。
• 绘制模型不同层或不同头部的平均选择性指数变化图。
• 可视化对特定方向最敏感的注意力图。

理解了这套流程，我们就掌握了IRIS的“内功心法”。接下来，我们进入实战环节。

4. 完整实战：使用IRIS分析预训练ViT的方向选择性

我们将以一个经典的预训练模型ViT-B/16为例，展示完整的分析流程。假设IRIS框架的代码结构如下所示：

IRIS-framework/ ├── stimuli/ # 刺激生成模块 ├── extraction/ # 模型响应提取模块 ├── analysis/ # 数据分析模块（计算OSI等） ├── visualization/ # 可视化模块 ├── utils/ # 工具函数 └── configs/ # 配置文件

4.1 步骤一：生成方向光栅刺激集

首先，我们使用IRIS提供的刺激生成工具来创建数据集。

# 文件：generate_stimuli.py import numpy as np from stimuli.gratings import generate_grating_stimuli from PIL import Image import os # 配置参数 config = { 'image_size': 224, # ViT-B/16 输入尺寸 'orientations': np.linspace(0, 180, 12, endpoint=False), # 12个方向，0到165度 'spatial_freq': 0.05, # 空间频率（周期/像素） 'phase': 0, # 相位 'contrast': 1.0, # 对比度 'num_repeats': 5, # 每个方向重复次数，用于平均化噪声 } # 创建输出目录 output_dir = './data/stimuli/orientations' os.makedirs(output_dir, exist_ok=True) # 生成刺激并保存 all_stimuli = [] all_labels = [] # 标签即方向角度 for orientation in config['orientations']: for repeat in range(config['num_repeats']): # 调用IRIS的刺激生成函数（此处为示例函数名） img_array = generate_grating_stimuli( size=config['image_size'], orientation=orientation, spatial_freq=config['spatial_freq'], phase=config['phase'] + repeat * 0.2, # 微调相位增加变化 contrast=config['contrast'] ) # 转换为PIL图像并保存 img = Image.fromarray((img_array * 255).astype(np.uint8)) filename = f"orient_{int(orientation):03d}_repeat_{repeat:02d}.png" img.save(os.path.join(output_dir, filename)) all_stimuli.append(img_array) all_labels.append(orientation) print(f"刺激生成完成！共生成 {len(all_stimuli)} 张图像。") print(f"方向范围: {config['orientations']}")

4.2 步骤二：加载ViT模型并提取中间层激活

接下来，我们加载预训练的ViT模型，并定义一个“钩子”（hook）来捕获我们感兴趣的层的激活值。

# 文件：extract_activations.py import torch import torch.nn as nn from torchvision import models, transforms from PIL import Image import os import numpy as np from tqdm import tqdm # 1. 加载预训练的ViT-B/16模型 model = models.vit_b_16(weights='IMAGENET1K_V1') model.eval() # 设置为评估模式 device = torch.device('cuda' if torch.cuda.is_available() else 'cpu') model.to(device) print(f"模型加载到设备: {device}") # 2. 定义图像预处理管道（必须与模型训练时一致） preprocess = transforms.Compose([ transforms.Resize(256), transforms.CenterCrop(224), transforms.ToTensor(), transforms.Normalize(mean=[0.485, 0.456, 0.406], std=[0.229, 0.224, 0.225]), ]) # 3. 准备刺激图像路径和标签 stimuli_dir = './data/stimuli/orientations' image_paths = [os.path.join(stimuli_dir, f) for f in sorted(os.listdir(stimuli_dir)) if f.endswith('.png')] # 从文件名解析方向标签（根据之前的命名规则） labels = [float(f.split('_')[1]) for f in sorted(os.listdir(stimuli_dir)) if f.endswith('.png')] # 4. 定义要提取激活的层 # 例如，我们想提取第6个Transformer编码器块后的输出 target_layer = model.encoder.layers[5] # 索引从0开始 # 用于存储激活的容器 activations = {‘layer_6’: []} # 5. 定义前向钩子函数 def get_activation(name): """钩子函数，用于捕获指定层的输出""" def hook(model, input, output): # output 通常是元组，我们取第一个（通常是主要输出） if isinstance(output, tuple): activations[name].append(output[0].detach().cpu()) else: activations[name].append(output.detach().cpu()) return hook # 注册钩子 hook_handle = target_layer.register_forward_hook(get_activation('layer_6')) # 6. 遍历刺激图像，前向传播并记录激活 print("开始提取模型激活...") with torch.no_grad(): # 禁用梯度计算，节省内存和计算资源 for img_path in tqdm(image_paths): img = Image.open(img_path).convert('RGB') input_tensor = preprocess(img).unsqueeze(0).to(device) # 增加批次维度 _ = model(input_tensor) # 前向传播，钩子会自动捕获激活 # 7. 移除钩子，整理数据 hook_handle.remove() # 将列表转换为一个大的张量 [num_stimuli, num_features, ...] activations[‘layer_6’] = torch.cat(activations[‘layer_6’], dim=0) print(f"激活提取完成。激活张量形状: {activations[‘layer_6’].shape}") # 输出示例: torch.Size([60, 197, 768]) -> [60个刺激, 197个token(含cls), 特征维度768]

4.3 步骤三：使用IRIS分析模块计算方向选择性

现在，我们有了刺激标签和对应的模型激活。接下来使用IRIS的分析模块来计算每个特征单元的方向调谐曲线和OSI。

# 文件：analyze_orientation_selectivity.py import numpy as np from analysis.orientation import compute_tuning, compute_osi import matplotlib.pyplot as plt # 1. 准备数据 # activations: 形状为 [n_stimuli, n_tokens, n_features] 或 [n_stimuli, n_features] # 我们以CLS token的特征为例进行分析 (假设它是第一个token) cls_activations = activations[‘layer_6’][:, 0, :].numpy() # 形状: [60, 768] # labels: 刺激对应的方向角度列表，长度60 unique_orientations = np.unique(labels) n_units = cls_activations.shape[1] # 768个特征单元 print(f"分析CLS Token的 {n_units} 个特征单元...") print(f"唯一方向数量: {len(unique_orientations)}") # 2. 为每个特征单元计算调谐曲线和OSI all_osi = np.zeros(n_units) preferred_orientations = np.zeros(n_units) tuning_curves = [] # 存储每个单元的调谐曲线 for unit_idx in range(n_units): unit_response = cls_activations[:, unit_idx] # 该单元对所有刺激的响应 # 计算每个方向上的平均响应 mean_response_per_ori = [] for ori in unique_orientations: mask = (labels == ori) mean_response = np.mean(unit_response[mask]) mean_response_per_ori.append(mean_response) tuning_curves.append(mean_response_per_ori) # 使用IRIS工具函数计算偏好方向和OSI (这里展示原理性实现) pref_idx = np.argmax(mean_response_per_ori) pref_ori = unique_orientations[pref_idx] pref_response = mean_response_per_ori[pref_idx] # 找到与偏好方向垂直（相差90度）的方向响应 # 注意：方向是周期性的（180度周期） orth_ori = (pref_ori + 90) % 180 # 找到最接近orth_ori的实际测试方向 orth_idx = np.argmin(np.abs(unique_orientations - orth_ori)) orth_response = mean_response_per_ori[orth_idx] # 计算经典OSI if (pref_response + orth_response) > 0: osi = (pref_response - orth_response) / (pref_response + orth_response) else: osi = 0.0 all_osi[unit_idx] = osi preferred_orientations[unit_idx] = pref_ori # 3. 统计结果 print("\n=== 方向选择性分析结果 ===") print(f"平均OSI: {np.mean(all_osi):.4f} (+/- {np.std(all_osi):.4f})") print(f"OSI > 0.5 (强选择性) 的单元比例: {np.sum(all_osi > 0.5) / n_units * 100:.2f}%") print(f"OSI < 0.1 (弱/无选择性) 的单元比例: {np.sum(all_osi < 0.1) / n_units * 100:.2f}%")

4.4 步骤四：可视化结果

最后，我们通过图表来直观展示分析结果。

# 文件：visualize_results.py import matplotlib.pyplot as plt import seaborn as sns # 设置绘图风格 sns.set_style("whitegrid") plt.figure(figsize=(15, 10)) # 1. 绘制OSI值分布直方图 plt.subplot(2, 2, 1) plt.hist(all_osi, bins=30, edgecolor='black', alpha=0.7) plt.xlabel('Orientation Selectivity Index (OSI)') plt.ylabel('Number of Units') plt.title('Distribution of OSI across Feature Units') plt.axvline(x=0.5, color='r', linestyle='--', label='OSI=0.5') plt.legend() # 2. 绘制偏好方向分布图（玫瑰图/极坐标直方图） plt.subplot(2, 2, 2, projection='polar') # 将角度转换为弧度 pref_rad = np.deg2rad(preferred_orientations) # 计算每个区间的数量 n_bins = 12 counts, bin_edges = np.histogram(preferred_orientations, bins=n_bins, range=(0, 180)) # 计算扇区的角度（取区间中点） bin_centers = 0.5 * (bin_edges[:-1] + bin_edges[1:]) bin_centers_rad = np.deg2rad(bin_centers) # 绘制极坐标条形图 plt.bar(bin_centers_rad, counts, width=2*np.pi/n_bins, alpha=0.7, edgecolor='k') plt.title('Preferred Orientation Distribution (Polar)') plt.theta_zero_location('N') # 0度指向北方（上方） plt.theta_direction(-1) # 顺时针方向 plt.thetagrids(np.arange(0, 360, 45), labels=np.arange(0, 360, 45)) # 3. 绘制几个高OSI单元的调谐曲线示例 plt.subplot(2, 2, 3) top_osi_indices = np.argsort(all_osi)[-3:] # OSI最高的3个单元 for idx in top_osi_indices: plt.plot(unique_orientations, tuning_curves[idx], marker='o', label=f'Unit {idx}, OSI={all_osi[idx]:.3f}') plt.xlabel('Orientation (degrees)') plt.ylabel('Mean Activation') plt.title('Tuning Curves of Top Selective Units') plt.legend() plt.xticks(unique_orientations) # 4. 绘制OSI随特征单元索引的变化（粗略查看是否有聚类） plt.subplot(2, 2, 4) plt.scatter(range(n_units), all_osi, s=2, alpha=0.6) plt.xlabel('Feature Unit Index') plt.ylabel('OSI') plt.title('OSI across Feature Dimension') plt.ylim(-0.1, 1.1) plt.tight_layout() plt.savefig('./results/orientation_analysis_summary.png', dpi=150) plt.show() print("可视化结果已保存至 './results/orientation_analysis_summary.png'")

4.5 结果解读

运行完上述代码后，你将得到一系列图表和统计数据。通过分析这些结果，你可以回答诸如以下问题：

• ViT的CLS token特征中是否存在方向选择性单元？查看OSI分布图，如果存在大量OSI值接近1的单元，则说明存在强方向选择性。
• 偏好方向是否均匀分布？查看极坐标分布图。生物V1皮层中，简单细胞的偏好方向通常是均匀覆盖所有角度的。如果ViT也表现出类似模式，将是一个有趣的发现。
• 选择性强的单元其调谐曲线形状如何？查看示例调谐曲线，是否尖锐（高选择性）或平缓（低选择性）。

5. 常见问题与排查思路

在实际操作中，你可能会遇到以下问题：

6. 最佳实践与工程建议

将IRIS用于严肃的研究或模型分析时，遵循以下最佳实践能让你的工作更可靠、更高效。

6.1 实验设计严谨性

• 控制变量：一次只改变一个刺激参数（如方向），固定其他参数（空间频率、对比度、相位），才能将响应变化归因于方向。
• 随机化与重复：刺激呈现顺序应随机化，以避免模型潜在的时间动态效应。多次重复同一刺激并取平均响应，可以平滑掉随机噪声。
• 基线响应：考虑引入空白（灰度）刺激，计算相对于基线的响应变化，这有时能更清晰地揭示特征选择性。

6.2 代码实现优化

• 批处理：如前所述，将刺激图像组织成批次进行前向传播，能充分利用GPU并行能力，速度可能提升数十倍。
• 内存管理：提取深层、高维度的激活会消耗大量内存。考虑：
  • 使用torch.no_grad()。
  • 及时将激活数据转移到CPU并释放GPU缓存 (torch.cuda.empty_cache())。
  • 对于超大规模分析，可以逐单元计算并即时保存结果到磁盘，而不是在内存中保存所有中间激活。
• 模块化与配置化：将刺激参数、模型名称、目标层、分析指标等写入配置文件（如YAML或JSON），使实验可复现、参数可追溯。

6.3 分析与解释的深度

• 多层次分析：不要只分析CLS Token。尝试分析：
  • 其他Token：对应图像块的token可能对局部方向更敏感。
  • 注意力权重：分析特定注意力头是否对某些方向有偏好。
  • MLP层神经元：ViT的MLP层可能包含更复杂的特征检测器。
• 对比实验：
  • 不同模型：对比ViT与CNN（如ResNet）的方向选择性差异。
  • 不同训练阶段：分析模型在预训练、微调前后选择性如何变化。
  • 不同输入：使用自然图像与合成光栅进行对比，观察选择性是否泛化。
• 统计检验：不要只看平均OSI。使用统计检验（如置换检验）来判断观察到的选择性是否显著高于随机水平。

6.4 结果报告与可视化

• 清晰的图表：确保图表有清晰的标题、坐标轴标签和图例。
• 保存原始数据：将计算出的OSI、偏好方向、调谐曲线等原始数据以.npy或.csv格式保存，便于后续重新分析或绘制。
• 记录实验元数据：记录下所有的软件版本号（PyTorch, IRIS commit hash等）、随机种子、硬件信息，这是可复现性的关键。

通过IRIS框架，我们得以窥视ViT模型的“视觉皮层”，将神经科学的经典分析方法应用于现代深度学习模型。这不仅有助于模型可解释性，也可能为设计更高效、更接近生物视觉的AI模型提供灵感。希望这篇教程能为你打开一扇门，鼓励你动手分析自己的模型，探索其内部表征的奥秘。如果在实践中遇到问题，欢迎在评论区交流讨论。