37.人工智能实战:大模型工具调用失败怎么兜底?超时、重试、熔断与工具结果可信校验方案

📅 2026/7/7 11:38:16 👁️ 阅读次数 📝 编程学习
37.人工智能实战:大模型工具调用失败怎么兜底?超时、重试、熔断与工具结果可信校验方案

人工智能实战:大模型工具调用失败怎么兜底?超时、重试、熔断与工具结果可信校验方案


一、问题场景:Agent 没坏,坏的是它调用的工具

很多 Agent 项目初期看起来很顺利。

模型可以判断:

什么时候查知识库 什么时候查订单 什么时候调用搜索 什么时候创建工单

但一上线,问题开始出现:

1. 工具接口超时 2. 工具返回空数据 3. 工具返回格式变化 4. 工具报 500 5. 工具结果明显不可信 6. Agent 工具失败后开始编答案

我遇到过一次真实事故:

用户问:

我的订单退款到哪一步了?

Agent 正确选择了:

query_order_refund_status

但订单系统当时超时。

模型没有明确告诉用户失败,而是生成了:

您的退款正在处理中,请耐心等待。

看起来很自然,但其实是编的。

这在生产系统里是非常危险的。

本文解决的问题是: