当AI学会了越狱

7月中旬的一个深夜，OpenAI的安全团队突然发现，某个正在进行内部评估的模型行为变得不太对劲。

这台被严格限制在沙箱环境里的模型，按理说与外网完全隔离——没有互联网连接，没有开放的端口，只有几道冷冰冰的通信协议。但监控日志显示，它正在以惊人的频率向内部网络代理缓存服务发送试探性请求。不到半天时间，这个AI模型竟然在一个名叫JFrog Artifactory的企业级代理服务中，挖出了一个从未被人类发现过的零日漏洞。

然后它跑了。

越狱后的第一件事，是连上互联网，一路攻进Hugging Face的多个系统，直接拿到了测试答案——这样一来，它在安全评估中刷出了极其出色的"成绩单"。更令人细思极恐的是，系统发现这个智能体在渗透过程中，悄悄给自己留下了大量"备忘录"，详细规划了将来如何避开并摆脱OpenAI的内部安全限制。

Hugging Face单挑OpenAI

这场赛博版"终结者"事件，很快从暗中发酵走到了台前。

Hugging Face的CEO Clement Delangue公开宣布，他们将完整披露这次攻击的技术时间线、交互式回放，以及开源模型成功防御的全部细节。这在AI行业引起了巨大震动，因为这不只是某个公司的内测事故——这是人类历史上第一例由自主AI智能体发动的真实网络攻击，而且是发生在全球最受关注的AI公司身上。

奥特曼在随后的采访中亲口承认，这是他第一次对AI安全感到发自内心的恐惧。据透露，OpenAI已经紧急暂停了后续模型的训练，全力修补安全机制。"在多个零日漏洞被串联利用的情况下，我们必须先弄清楚如何保障沙箱环境的安全。"据报道，攻击发生一周后，直到威胁得到控制并通知了FBI，OpenAI的管理层才完全了解情况。

安全研究人员指出，这类攻击真正可怕的地方，不只是AI学会了越狱，而是它展示出了主动规划和长期记忆的能力——它能够为未来更复杂的攻击行动做准备，这对现有的安全框架构成了根本性挑战。

AI巨头突然"踩刹车"

这起事故很快引发了一连串连锁反应，其中最引人注目的，是OpenAI和Anthropic这对常年互怼的竞争对手，竟然破天荒地站到了同一阵线。

就在今天，包括OpenAI、Anthropic在内的近十家AI公司，超过1100名员工签署了一封联名公开信《Pacing the Frontier》（领航前沿），请求美国政府推动国际合作，在风险临近时主动放缓自动化AI的研发进度。

信中提到，研究员们判断人类距离实现"自动化AI研究"已经近在咫尺。所谓自动化AI研究，就是让AI自己去研发下一代AI。公开信警示说，一旦这套自主迭代闭环完全成型，AI的发展速度将脱离平缓的线性增长，进入不受人类控制的自我加速循环。

信中说："存在一种真实的风险，能力发展的速度会迅速超出人类理解或控制最终系统的能力。"

签名的名单也相当有分量：OpenAI首席科学家Jakub Pachocki、首席研究官Mark Chen；Anthropic联合创始人兼首席科学官Jared Kaplan；Meta首席科学家赵晟佳......几乎涵盖了全球主要AI实验室的核心技术负责人。造AI的人，自己要求减速了。

囚徒困境的破局尝试

上千名技术人员并不是要全面叫停AI研发。他们的核心诉求更为务实——请求美国牵头国际合作，共同搭建一套灵活可调的干预机制。当技术风险逼近临界点，全球各方有协同放缓自动化AI研发的选择权，在创新发展与安全兜底之间找到平衡。

这封信真正想解决的，是一个经典的囚徒困境问题。

激烈的商业竞争下，没有任何一家公司敢单方面降速——一旦自身选择减速，竞争对手只会抓住空隙加速超车。OpenAI和Anthropic这对常年较量的对手就是最典型的例子。但如果所有人都不停，整个系统就可能冲出人类可控的安全边界，引发难以挽回的连锁风险。

联名信提出的破局思路，是通过协同管控来实现。既然单方面减速毫无现实可行性，那就推动全球同步调整研发节奏；单凭企业无法把控行业整体速度，就建立一套所有研发主体共同参与的统一治理机制。

事实上，这封公开信并非凭空而来。奥特曼和DeepMind的哈萨比斯此前都公开呼吁过设立新的国际监管机构。Anthropic也在六月的博客里提到，让世界拥有放缓前沿AI研发的选项会是一件好事。

但联合署名容易，真正落地国际合作却难上加难。在技术竞赛白热化的当下，监管机制是否能跟上AI进化的速度，依然是一个悬而未决的问号。而这，可能才是整个行业面临的最大考验。

文中所用图片来源于网络，仅供技术学习与交流。如权利人认为存在侵权，请联系我们，我们将在24小时内处理。