AI for AI 到底在研究什么?从 neo lab、机制可解释性到原模型

📅 2026/8/1 18:45:16 👁️ 阅读次数 📝 编程学习
AI for AI 到底在研究什么?从 neo lab、机制可解释性到原模型

本文整理自小宇宙播客《149. 亲历中美 neo labs 资本狂潮,和清华刘子鸣聊:AI for AI、机制可解释性和 Max Tegmark》,通过 Ai好记 转录整理,以下为精炼整理后的内容。

这期播客原访谈约 100 分钟,信息密度很高。我用 Ai好记 转成文字后,它的精华速览把整场对话提炼成了几个核心板块。其中有一条总结让我印象很深,大意是“AI for AI 不是让 Agent 写更多代码,而是让系统具备研究判断能力”。就是这句话让我决定把这期内容整理成文,把几条技术线索串起来讲清楚。

下面结合 Ai好记 生成的思维导图和原文逐字稿,拆解 AI for AI、Physics of AI 和原模型这三条相互关联的方向。


AI for AI 不只是更勤奋的 Coding Agent


现在不少 AutoResearch 项目的基本思路很直接:让 Agent 写代码、跑实验、读指标,然后进入下一轮迭代。它们解决的核心问题是实验执行速度,可以理解为更勤奋的研究助手。

Ai好记 的AI 润色版笔记里把刘子鸣的观点梳理得很清楚:他说的 AI for AI 更强调研究判断。系统不仅要执行实验,还要能提出值得验证的假设,理解不同架构之间的关系,并预测一次训练可能得到什么结果。为此,团队提出了 OPHIS 框架,把研究过程拆成观察、问题、假设、干预和加速五个环节。

这个拆分很关键。我点击文字大纲跳转到原文稿相应段落发现,刘子鸣在访谈里举了一个非常具体的例子:论文通常只保留成功结果,大量失败实验、方向调整和判断依据不会进入公开文本。没有这些过程数据,模型学到的只是论文写作,而不是科研本身。把研究思维结构化,实际上是在为自动科研补一套训练语料。


从 AI for Physics 到 Physics of AI


这个转向很有意思。刘子鸣本科阶段做的是 AI for Physics,用机器学习解决物理问题。ChatGPT 之后,他把两者的位置反了过来,开始研究 Physics of AI,也就是借用物理学寻找规律的方法,反过来理解模型为什么有效、训练过程如何演化、哪些结构可能具有更好的泛化能力。

在 Ai好记 生成的思维导图里,Physics of AI 被放在了机制可解释性的上游位置,这个归类让我重新理解了它们的关系:机制可解释性关注的是模型内部已经形成的结构,而 Physics of AI 试图回答的是,这些结构在训练过程中是怎么涌现出来的。

访谈中提到的 KAN 经历也佐证了这一点。早期原型仍像一个黑盒,直到网络内部结构被可视化,研究价值才变得直观。重点不是一张图有多漂亮,而是模型能否从只给预测,进一步变成可以观察、提出假设和验证机制的研究对象。


原模型:帮架构搜索先做一次「初筛」


访谈后半段提出了原模型的概念,也就是 Meta-Model。它的输入不是普通文本,而是模型架构、数据集和优化器等配置信息,输出则是训练曲线和最终性能的预测。

假设研究者有 100 个架构想法,传统方式需要逐个训练,原模型的目标是先预测哪些方案更值得投入,再把真实算力集中到少数候选上。短期看,它更像训练副驾驶;长期愿景则是让系统参与模型设计,甚至发现不同于 Transformer 的结构。

我在笔记的沉浸式阅读模式下重新读了一遍这一段的原文和润色版对照。刘子鸣在访谈里的表述比润色版更谨慎,反复强调「这仍是一条早期路线」,原模型能否跨任务泛化、研究过程能否被可靠结构化、预测误差会不会把搜索带偏,都需要持续验证。


neo lab 为什么在中美同时升温


我把这个话题放在最后说,因为在笔记里,它更像是前面几条技术线索的「背景板」。中美都出现了一批由年轻研究者主导的新型实验室,也就是 neo lab,它们往往研究驱动明显,组织形态处于高校实验室与创业公司之间。

资本提前下注,并不等于技术路线已经被验证。更合理的理解是,现有 Transformer 路线已经高度拥挤,而下一代架构、自动科研和模型可解释性仍有大量搜索空间。顶尖研究者需要算力和工程团队,投资机构希望尽早占据可能出现范式变化的位置,双方需求碰到一起,形成了这轮热潮。


结语


这场访谈最值得关注的,不是下一轮融资会有多热,而是 AI 研究正在尝试把自身也变成 AI 可以学习和优化的对象。从机制可解释性到 OPHIS,再到原模型,它们共同指向一个问题:机器能否从执行实验,继续走向理解实验和设计实验。

以上内容由 Ai好记 转录整理,它适合短时间消化这类长访谈视频,是一款音视频转图文笔记的 AI 学习助手,支持各大主流平台链接及本地音视频文件,转入后自动生成精华速览、思维导图和结构化笔记。消化这类长访谈视频