CVPR 2021-2024增量学习核心进展：从DER到拓扑保持的5篇论文精读与复现

增量学习作为机器学习领域的重要研究方向，近年来在计算机视觉顶会上涌现了大量创新性工作。本文将深入解析2021-2024年间CVPR/ECCV会议上最具代表性的5篇增量学习论文，包括算法原理图解、关键代码实现以及实际复现中的经验分享。

1. 动态可扩展表征的类增量学习（DER, CVPR 2021）

DER（Dynamically Expandable Representation）通过动态扩展网络结构来解决灾难性遗忘问题。其核心创新点在于：

• 动态架构扩展：为每个新任务添加独立的特征提取分支
• 旧任务冻结：已学习任务的参数完全固定，避免遗忘
• 选择性回放：保留少量旧任务样本用于知识蒸馏

# DER关键实现代码片段 class DERNet(nn.Module): def __init__(self, base_network): super().__init__() self.backbones = nn.ModuleList([base_network]) self.classifiers = nn.ModuleList() def forward(self, x, task_id): features = [backbone(x) for backbone in self.backbones] return self.classifiers[task_id](features[-1])

复现时需注意：

1. 扩展分支的初始化应采用Kaiming初始化
2. 蒸馏损失权重建议设置为0.5-1.0
3. 内存管理需考虑GPU显存限制

2. 拓扑保持的类增量学习（TPCIL, ECCV 2022）

TPCIL通过保持特征空间的拓扑结构来解决增量学习中的特征漂移问题。其技术亮点包括：

• 拓扑约束损失：保持新旧任务样本的局部几何关系
• 图神经网络编码：构建样本关系图进行特征传播
• 渐进式微调：分阶段调整模型参数

提示：TPCIL对图构建的超参数敏感，建议k近邻数设置为5-10

3. 多样化样本记忆的持续学习（Rainbow Memory, CVPR 2023）

Rainbow Memory创新性地提出了多样性感知的记忆选择策略：

1. 初始阶段：基于类别平衡随机选择样本
2. 更新阶段：
   • 计算样本间的特征距离矩阵
   • 最大化记忆集中样本的多样性
   • 动态调整各类别样本比例

# 多样性计算核心代码 def compute_diversity(features): dist_matrix = torch.cdist(features, features) return -torch.sum(torch.exp(-dist_matrix))

实际应用中发现：

• 当类别数超过100时，距离矩阵计算会成为瓶颈
• 建议每10个增量阶段重新计算一次多样性

4. 持续进化分类器的小样本增量学习（CEC, CVPR 2024）

CEC针对小样本场景提出了进化式分类器调整策略：

• 元学习初始化：使用MAML框架预训练分类器
• 增量式进化：

  graph LR A[旧分类器] --> B[特征提取] B --> C[新分类器原型] C --> D[进化调整] D --> E[最终分类器]

实验配置建议：

• 学习率设置为0.001-0.005
• 进化迭代次数控制在5-10轮
• 小样本场景下batch size不宜过大

5. 基于对比回放的增量学习（SCR, CVPR 2024）

SCR将对比学习引入增量学习，主要贡献包括：

• 监督对比损失：

  def supcon_loss(features, labels): logits = torch.matmul(features, features.T) return F.cross_entropy(logits, labels)

• 混合记忆回放：同时存储原始样本和增强样本

• 负样本挖掘：跨任务构建困难负样本

在ImageNet-1K上的实验结果：

复现经验与技巧

在实际复现这些先进方法时，有几个常见陷阱需要特别注意：

1. 数据泄露问题：确保验证集不包含未来任务的信息
2. 超参数敏感性：不同数据集需要重新调整损失权重
3. 计算资源管理：DER等动态架构方法显存消耗较大

一个实用的技巧是先在小型数据集（如CIFAR-100）上验证算法有效性，再迁移到更大规模数据集。对于需要存储样本的方法，可以考虑使用特征压缩技术减少内存占用。