从 Demo 到生产:Agent 工程化落地的十二道关卡
Agent 的演示和 Agent 的生产是两种工程。演示比的是能力上限:挑十个干净的任务,跑通一次就能录屏。生产比的是失败下限:每天几万次调用里,长尾输入、工具故障、模型限流、死循环都会出现,任何一次无人处置都可能演变成 …
# Agent · 9 篇
Agent 的演示和 Agent 的生产是两种工程。演示比的是能力上限:挑十个干净的任务,跑通一次就能录屏。生产比的是失败下限:每天几万次调用里,长尾输入、工具故障、模型限流、死循环都会出现,任何一次无人处置都可能演变成 …
对模型来说,工具的名称和描述就是接口文档加使用说明书,也是它决策的唯一依据。工具设计是 API 设计与文档写作的复合体——命名、描述、参数、返回值每一项都直接影响调用成功率。工具描述的质感,就是你 Agent 能力的上限 …
能写成固定代码路径的,不要用 Agent。Agent 的价值只有一个——处理"路径无法预知"的任务;代价是延迟、成本、可测试性全面劣化。这是 Anthropic《Building Effective …
长任务失败的主因不是模型不够聪明,而是走出十步后忘了初衷、走偏了也没有机制把它拉回。规划(先拆步骤)、显式任务清单(todo 进上下文)、反思(关键节点自查)是三个成本低、见效快的机制。但每个机制都要花额外 token, …
改 Prompt、换模型、调工具描述之前,先搭一个最小评估集。没有 evals,所有优化都是"感觉变好了";有了 evals,AI 应用的迭代才第一次变得像软件工程。20 个真实 case 就能起步,不要等"完美的评估体 …
多 Agent 不是团队比喻的模拟,而是上下文管理手段。它的真实价值只有两个:上下文隔离和并行。如果单 Agent 加几个好工具能解决,就不要拆多 Agent——协调成本经常吃掉收益。 为什么拆:上下文隔离 单 …
不要一上来就上向量数据库。记忆设计的正确顺序是:先榨干上下文窗口(会话历史 + 摘要压缩),再补任务状态(结构化 scratchpad),最后才考虑跨会话的长期记忆。大部分"记忆问题"其实是上下文管理问题。 三层记忆模型 …
ReAct 就是"想一步、做一步、看结果、再想"的循环。它不是某个框架的专利,而是一种 Prompt 组织方式加控制循环;Function Calling 循环本质上就是结构化版的 ReAct。 ReAct 在解决什么问 …
Function Calling 不是模型替你执行函数,而是模型输出一个结构化的"我想调用某工具及参数 JSON",真正的执行、鉴权、审计全部发生在你的代码里。理解这一点,工具调用的可靠性问题就退化成一个普通的后端工程问 …