三亩地 三亩地SAN MU DI · CODE DIARY
ARTICLE DETAIL

日记详情

真实记录编程学习的某一天,欢迎挑你感兴趣的翻一翻。

深度学习表征学习(一)—— 对比学习与 CLIP(五十四)

深度学习表征学习(一)—— 对比学习与 CLIP(五十四)

1. 定位导航

第 52 篇我们讲了自编码器路线的表征学习(重建为本)。本篇讲另一条同样重要的路线:对比学习(不重建,只对比)。

1.1 两大表征学习范式

范式思想代表
重建(生成式)让模型重建输入AE, VAE, MAE
对比(判别式)让相似样本靠近,不相似远离SimCLR, MoCo,CLIP

→ 现代基础模型(CLIP, DINOv2)几乎都用对比学习。

1.2 为什么对比学习火爆?

优势说明
不需要标签自监督,使用海量无标注数据
学到通用特征<
← 返回列表