家里那台电瓶车侧翻的时候，我没想到后面的事情会这么离谱。

上个周末我的电瓶车后排脚搭的塑料件摔坏了，整个部件不翼而飞。当时只是随口吐槽了一下，回头打开某电商平台，这个我不知道名字的配件赫然出现在了首页推荐，我理所应当地下单、收货、安装，严丝合缝。

如果不是平台推荐，我到现在都不知道那个塑料件该搜什么关键词。

这事发生在 7 月中旬，几乎同一时期，微信群里一份聊天记录也在疯传：

两件事让我惊叹如今电商平台推荐系统的强大，同时也想质问用户究竟有多少隐私暴露在这些平台之上？

我把这两件事告诉了傅聪老师，他看到了那条截图，让同事也试了一下，没复现出来。

“可能跟我们在新加坡地区有关。”

傅聪，海外大厂资深搜推算法专家，也是 NSG、SSG、PSP、MAG 等向量检索算法的作者，生成式搜推模型 OnePiece、ReSID、ManCAR、OneRank 等范式的主导发明者，生成式推荐领域的领军人物。可以说，国内在搜推原创算法这条路上持续做出理论级贡献的开发者不多，他是其中之一。这次对话的开场，就是这两次精准过头的首页推送。

“这个问题分两层，”他说，“第一，一个 APP 能通过什么合法渠道获取信息；第二，有了多模态信息，怎么实现推荐。”

正常的 APP 不可能直接监控所有用户权限。手机系统对权限做了多层分级——麦克风监听、屏幕录屏、相册完全访问，都需要专门授权。APP 从前台切到后台后能获取的权限会变化，不能监控其他 APP 的状态。当然，技术上也存在绕过系统权限的黑客级手段，但正规软件厂商通常不会跨过这条边界。

“如果一款 APP 在 iPhone 上出现越狱级别监控用户信息，并且有明确证据，最严重的后果可能是被 App Store 永久下架，惩罚力度非常大。”

另一个层面是多模态检索。“现在大模型识图能力已经很强了，识别图中的元素、文字都很容易。如果用户授权（比如点击语音或上传图片按钮），我们可以借助多模态大模型提取用户意图和核心要素，并发产生多种召回请求，生成候选商品，最后按与多模态输入的相关度选出相似商品——这是很容易实现的事情。”

也就是说，这两件事的核心矛盾并不是技术问题，而是权限问题。

我顺势问了傅聪老师团队是否会面临这方面的问题，傅聪老师笑了笑，“我们这边确实不搞这些。海外的 APP 在这方面管理非常严格，至少我没听说过有团队会往这个方向动心思。”

浙大博士和一篇算法论文

我们把时间拨回十年前，傅聪跟搜推算法的纠缠，从学生时期就开始了。

“回顾起来，NSG 是我读博期间做的。出发点是一个纯粹的科研问题。”

那是在 2016 到 2017 年，他在读博期间发表了 NSG 算法的论文。当时 HNSW 算法刚提出来不久，基于图的向量检索算法还是个小众领域。HNSW 的出现也带来了一个没被回答的问题：基于图结构的向量检索算法为什么有效？

传统向量检索算法（如 PQ）有点像收纳，把柜子分成不同区域，每个区域有独立特点，拿到一个向量后，根据特点找到对应区域，再获取相似向量。但 PQ 等传统算法运行效率很差，没法在几毫秒内返回最相似的 Top 500 个向量，很难在工业界落地。

“我当时在淘宝主搜实习时印象很深，深度学习刚刚兴起，何凯明他们的 ResNet 2015 年才出现，那时还没有大模型。向量检索主要应用在电商、视频、图文的推荐和搜索平台，比如‘拍立淘’就是以图搜同款，只能用向量去做。”

在电商场景下，用户对搜索反馈的延迟要求非常敏感，点了搜索按钮后2 秒内就要返回结果。整条链路里，图片经神经网络提取向量、向量检索相似商品、精细排序，留给向量检索的时间通常只有 50 到 100 毫秒。传统的 PQ 算法没法在这个耗时下达到 95% 以上的精度。

当时的 HNSW 做到了比 PQ 快很多，但它的短板也很明显，在数十亿商品库这种量级的电商平台场景下需要的内存太大。厂商不能无限制地给一个算法堆内存，硬件成本扛不住。

傅聪团队研究的 NSG 算法做了两件事。第一，在理论上首次证明了图算法的最优性 —— 延迟对数据规模不敏感，例如 1 亿条数据 10 毫秒返回，30 亿、40 亿条数据返回也只膨胀到 13、14 毫秒；第二，在达到相同效率的情况下，NSG 需要的内存大约是 HNSW 的三分之一。

凭借这些亮点，NSG 被阿里巴巴的中台系统采用，同时给蚂蚁等集团提供向量检索服务，慢慢地被更多大厂集成，在业内颇有名气。可以说在前大模型时代的传统电商、搜索推荐广告场景中，由于企业更重视成本，只要集团中台集成了 NSG，基本都会选 NSG——内存消耗小，稳定性强，而且 NSG 有真正的数学理论支撑。

但在全球开源生态中，HNSW 仍然是更流行的那个。靠着团队的持续运营，HNSW封装成各种接口，集成到 Elasticsearch、Zilliz 的Milvus、Meta的Faiss等知名开源框架中，分布式调用方案成熟，用户拿来即用。

然而，彼时的傅聪尚是一名博士生，在完成算法设计、论文发表和 Demo 提交后，他的工作便暂告段落，无暇顾及后续的开源社区维护。但NSG 后来却凭借过硬的性能与深厚的理论功底，脱颖而出，不仅被大厂广泛采纳为超大规模向量检索的优先算法，更成为该领域里程碑式的成果，屡屡出现在国际顶会的Tutorial讲台上。

在大模型时代到来之后，企业选向量检索算法的逻辑也变了。以前重成本，内存小、稳定性强就是优势。现在用户对耗时的容忍度大幅拉高，跟 Agent 聊天或写代码，一次请求几十秒到几十分钟，中间插入一个检索节点，100 毫秒还是 300 毫秒，用户几乎没有感知。

在这种场景下，使用算法的方便性决定了技术选型优先级。开源生态更成熟、工业级库更丰富的 HNSW 成为了行业公认的第一选择。

四个算法，十年迭代

从 NSG 之后，傅聪连续迭代了 SSG、PSP、MAG 三个算法，每一个都为了适配当下的使用场景。

NSG 在理论证明了最优性之后，傅聪发现它并不是最完备的，它的图结构对不同数据分布不能自适应扩展。于是他发明了 SSG，给图结构加上了一个自由度，可以适应不同数据形态或分布，调整图结构的稀疏程度和结构特性。这是 NSG 和 HNSW 都没有的——HNSW 只能调整图的尺寸大小，不能调整节点之间连接边的模式，比较僵化。

从 SSG 之后，向量检索进入了大模型时代。

GPT-3 在 2020 年发布，几乎重塑了整个机器学习的范式。传统的神经网络提取向量在欧式空间里计算距离，但大模型时代最常用的相似度度量是余弦相似度或内积（点积），跟欧式距离有本质差异。

“很多人会误用度量，直接用 HNSW 套框架去构建向量引擎。”傅聪说。在某些大模型提取的向量里，用错了度量空间，召回精度甚至会趋近于 0%。

于是傅聪团队专门为余弦/点积相似度设计了 PSP 算法。到 2024 年，欧式空间的向量检索已经研究得非常透彻，在做各种规模化和数据库产品化；但基于内积和余弦的向量数据库还处在非常早期、没有理论支撑的阶段。PSP 就是在这个空缺上做了数学理论推导，寻找内积空间上的检索最优性。

但大模型产生的向量，度量的向性往往不是非此即彼的。欧式和内积之间有一个过渡地带。傅聪团队发现，如果构建图结构时用混合度量，效果会更好。MAG 就是把两种特性融合到一套索引里的方案，先跑一个简单的诊断脚本，就知道数据偏欧式还是偏内积，然后自动输出最优配置。

发明 MAG 的初衷很简单：用户不需要懂复杂的算法原理和数学知识，主打拿来即用。

在做 MAG 的时候傅聪也发现了，现在整个向量检索或 RAG 都在退火——用户不再关心用什么算法，只希望拿来就能用。但向量检索不是一个 demo 算法就能拿来用的，用户要的是像 pgvector 或 Milvus 那样成体系化的数据库，不止向量检索，还要能数据库查询、文本检索。

“如果真的想把 MAG 推广出去，我们要自己去提交适配版本——改造成 Java 版接口提交给 Elasticsearch，改造成其他语言的版本提交到知名的工具库。但提交上去之后，对方也没有义务帮你推广。而向量检索环节再精、再灵活，用户下游的感知其实没有那么强，它已经成为一个超长链条里很小的环节了。”

Iceberg：AI 时代的新标准

Iceberg 这个新的向量检索算法评价基准，原本是傅聪推广自己算法的一次尝试。

“推出 Iceberg 也是为了呼应 PSP 和 MAG，希望更多人看到它们。（笑）”

话虽如此，但这个新的标准解决了一个很现实的问题：学术界还在用传统 benchmark 评价向量检索效能，只关心传统神经网络产出的向量，在欧式距离上的精度，把问题做得非常细、非常局部，这和工业界实际应用之间存在巨大的鸿沟。前面也提到，在 AI 大模型时代，最常用的相似度度量是余弦相似度或内积（点积），跟欧式距离有本质差异。

“每篇论文都说自己的算法好，但拿去产品里一用发现不是那么回事。每年 KDD、VLDB、SIGMOD 那么多算法论文，业界不可能每一篇都拿去尝试。”

拉出来跑个分更简洁，也更直观。

Iceberg 做的事就是把所有向量检索算法全部拉到一个新的竞技场里，用大模型时代的新向量数据集去看下游指标，哪个算法跟哪个模型适配性最好。

Iceberg 上传到 Hugging Face 的首周下载量就达到了几百次，这在向量检索算法这个小众领域算是非常不错的成绩。

“大家都很关心在大模型产出的新向量上，算法的排位是什么样的。”

OnePiece：生成式搜推

在向量检索算法这条“小众赛道”上奔跑了十年，傅聪不断地尝试拥抱新的变化。

2024年以前，所有厂商最大的推荐模型，只算深度网络部分（不含embedding），只能到几千万参数。而同期的大模型随便拉一个出来都已经是千亿级别，差了十几个数量级。

那么能不能用大模型的思路，用Transformer重构推荐系统，让推荐也有Scaling Law，越大越好？很多人开始投入了几百上千张显卡去尝试这件事。但有一个根本问题没被回答：

大推荐模型和大语言模型，本质上真的是一回事吗？

“如果花了几个亿，最后发现很多地方不能照搬，技术不能借鉴，那对公司来说是一个灾难性的投入，等于走进了死胡同。”

OnePiece就是回答这个问题的。（没错，傅聪老师也是海贼王的粉丝）

傅聪说，大推荐模型和大语言模型非常相似，很多大模型有的特性，大推荐模型也有，比如上下文工程、推理能力。

但应用方式完全不一样。

CoT让大模型模拟人的思维模式，第一步做什么，第二步做什么。但推荐系统没有语言体系，它只是一串按时间排好序的商品或视频序列，两个商品之间没有语义转移关系，没法简单地构建思维链。

所以推荐系统需要定制化的上下文工程和隐式推理——不在文本空间解码思考过程，在特殊数学空间做推导。

这个方向大语言模型学术界也在同步推进。最新的隐式推理技术在隐藏空间里做3到5步推理，效果和写三四千token的CoT差不多甚至更好。

“在这个方向上，OnePiece已经做到了和大语言模型隐式推理技术对等的水平。”

目前OnePiece 2.0 和 3.0 版本都已经在Shopee内部先后部署，属于平台推荐系统和搜索引擎的核心部分，覆盖平台在东南亚和拉美地区的主要流量。

值得一提的是，OnePiece框架在Shopee部署后平台商品销售总收入提升1.8个百分点，广告营收提升3.3个百分点。作为对比，接近饱和的传统判别式模型迭代，单次实验往往只能带来零点几个百分点的提升。

求变还是坚守

访谈到了最后，我问了傅聪老师一个不太好回答的问题，做向量检索的人，有感到被市场“冷落”吗？

“拥抱变化。”

他的回答很直接，资本在哪个方向，下一代的应用、产业价值潜力就在哪个方向，出现重应用、轻底层这种现象其实很合理。

“除了直接卖 Token 或卖铲子的厂商，我们还没看到太多扎扎实实落地、带来收益增长的明星公司（Cursor 算一个）。”

AI 到底带来了什么？提升办公效率、代码开发效率，怎么度量？真正应用了智能体开发后，代码写得很快，但代码评审环节产生了巨大瓶颈。AI写的大量代码不敢直接上线，上线后的收益很难归因到AI的助力，导致你没法评估这件事的ROI。

所以所有人都在快速找应用场景，先 PR、先推广、先卡位。先野蛮生长，再从蓝海变红海，然后做精细化运营，优化底层每个环节——所有技术都走这个成长曲线。

讽刺的是，像傅聪团队这样做推荐系统是确确实实帮公司赚到了钱的，而很多明星 AI 公司却一直在亏钱。

“OpenAI、Anthropic不盈利也能上市，几千亿美金估值；很多盈利的传统平台却做不到千亿美金体量，很难融资。这是资本市场的导向问题，更看重未来。”

在学术界，他也确实感觉到冷落——做推荐算法的论文投稿属于小众赛道，即使做出来非常创新的算法，关注的人也寥寥无几。

“你必须去蹭，主动跟大模型结合。早结合比晚结合好，因为你不知道大模型会怎么改变产品形态。只能主动去探索，找到契合点。假设有一天出现了更多脱离办公场景和代码研发的爆款AI应用，你的知识体系和工作模式脱节了，那才是最危险的。”

那个摔坏了的塑料件我还是不知道叫什么名字，我也没法证明那天电商平台的推送到底是不是巧合。

但傅聪从NSG做到OnePiece的这十年，是一条不太显眼但很扎实的叙事，每个时代都有新场景，每个场景都在改算法，改完之后发现时代又变了，再继续去适应时代。

最后一圈跑下来，他没有等在原地抱怨曝光不够，而是自己站到了AI的牌桌边上。

本期嘉宾

傅聪，Shopee（新加坡）资深算法专家，浙江大学计算机博士毕业，曾赴美国南加州大学访问研究，其主导发明的 NSG、SSG、PSP、MAG 等高性能检索算法，已落地为千亿级向量检索系统，成为工业界大规模检索的标杆方案之一；他提出的生成式搜推模型OnePiece、ReSID、ManCAR、OneRank等范式，则是领域内开创性的工作，不仅在大型电商平台取得显著商业价值，也为“超级推荐智能”时代奠定了重要基础。

在 TPAMI、KDD、VLDB、SIGIR、IJCAI、EMNLP、CIKM 等顶级会议或期刊发表论文二十余篇，长期担任 TPAMI、ICLR、NIPS、ICML、KDD、TKDE、SIGIR、AAAI、IJCAI、EMNLP 等国际会议审稿人。目前专注于 大模型、智能体、生成式推荐等技术大规模应用落地方面的研究。