三亩地 三亩地SAN MU DI · CODE DIARY
ARTICLE DETAIL

日记详情

真实记录编程学习的某一天,欢迎挑你感兴趣的翻一翻。

82.人工智能实战:大模型多环境治理怎么做?从开发、测试、预发到生产的 Prompt、模型、知识库隔离方案

82.人工智能实战:大模型多环境治理怎么做?从开发、测试、预发到生产的 Prompt、模型、知识库隔离方案

人工智能实战:大模型多环境治理怎么做?从开发、测试、预发到生产的 Prompt、模型、知识库隔离方案


一、问题场景:测试环境改了 Prompt,结果生产回答变了

很多大模型项目早期只有一个环境:

一套 Prompt 一个知识库 一个模型地址 一个配置表

开发、测试、运营都在同一套配置上改。

上线前看起来没问题。

但随着多人协作,很快会出现事故:

1. 测试人员改 Prompt,生产生效 2. 预发知识库未验证,线上被检索 3. 开发环境模型参数影响真实用户 4. 测试数据混入生产评测 5. 生产 Badcase 被开发覆盖

我见过一次非常典型的问题。

运营想测试新 Prompt:

回答更亲切一点。

结果直接改了配置中心的当前 Prompt。

生产环境立刻生效。

用户反馈:

AI 现在说话很啰嗦,而且制度问答不够严谨。

根因不是 Prompt 本身,而是:

没有多环境隔离。
← 返回列表