深度学习表征学习（一）—— 对比学习与 CLIP（五十四）
1. 定位导航
第 52 篇我们讲了自编码器路线的表征学习（重建为本）。本篇讲另一条同样重要的路线：对比学习（不重建，只对比）。
1.1 两大表征学习范式
| 范式 | 思想 | 代表 |
|---|---|---|
| 重建（生成式） | 让模型重建输入 | AE, VAE, MAE |
| 对比（判别式） | 让相似样本靠近，不相似远离 | SimCLR, MoCo,CLIP |
→ 现代基础模型（CLIP, DINOv2）几乎都用对比学习。
1.2 为什么对比学习火爆？
| 优势 | 说明 |
|---|---|
| 不需要标签 | 自监督，使用海量无标注数据 |
| 学到通用特征< |