结论先行:能写成固定代码路径的,不要用 Agent。Agent 的价值只有一个——处理"路径无法预知"的任务;代价是延迟、成本、可测试性全面劣化。这是 Anthropic《Building Effective Agents》(2024 年 12 月)的核心论点,也是实践中最值得刻在脑子里的一条。

一个谱系,不是非黑即白

从简单到复杂,LLM 应用是一条连续谱系。单次调用:一个 Prompt 进,一个结果出,大多数"AI 功能"到这就够了。工作流:多次 LLM 调用,但编排逻辑是你写死的代码——链式(拆步骤顺序执行)、路由(分类后走不同分支)、并行(多路同时跑再聚合)。编排者-执行者:LLM 动态决定怎么拆任务分给子 Agent,路径部分不可预知。自主 Agent:LLM 在循环里自主决定下一步做什么、用哪个工具,路径完全不可预知。

档位路径由谁决定延迟与成本可测试性典型场景
单次调用代码最低最高分类、提取、改写
工作流代码低高,分支可枚举客服路由、多步清洗
编排者-执行者模型拆解,框架约束中中,需回放轨迹可并行的调研类任务
自主 Agent模型运行时决定高低,依赖轨迹回放开放式排查与创作

左边的每一档都比右边便宜、快、可测试。你的默认选项应该从最左边开始,证明当前档不够用了才右移——右移的方向错了,修起来的成本远大于一开始选对。

编排者-执行者是常被跳过的一档,但很多"看起来需要自主 Agent"的任务其实落在这里:拆解由模型做(路径不可完全预知),执行框架是代码(每步行为可控)。它保留了大部分可测试性,又拿到了动态拆解的灵活性,是"想上 Agent 又担心失控"时最值得先试的中间档。

判断标准:路径能不能用代码写死

# workflow:分支逻辑是代码,路径可枚举、可单测、延迟可控
def handle_ticket(ticket):
    category = classify(ticket.text)              # 一次 LLM 调用
    if category == "财务":
        return faq_answer(ticket, KB_FINANCE)     # 固定检索 + 生成
    elif category == "调度" and ticket.urgent:
        return human_dispatch(ticket)             # 代码决定升级人工

# agent:路径由模型运行时决定,同一输入每次执行可能不同
def handle_by_agent(ticket):
    return agent_loop(tools=TICKET_TOOLS, goal=f"处理工单:{ticket.text}")

三个问题帮你定位:任务的分支逻辑你能不能全部枚举?能,就是 workflow。执行路径失败时你要不要精确复现?要(客服、财务场景几乎都要),偏向 workflow。输入的形态是否开放到无法枚举处理分支?是,才轮到 Agent。

补一个判断视角:看任务的异常处理。异常分支能枚举的(超时、无结果、权限不足各走什么路径)是 workflow 的舒适区;异常本身开放(“查出来的数据很怪,得看着办”)才需要 Agent。异常处理是分支逻辑里最难枚举的部分,它比主路径更能暴露任务的真实复杂度——主路径看着简单的任务,经常死在异常处理上。

典型误用与正确姿势

误用一:用自主 Agent 回答固定域的客服问题。十个问题八类分支,路由 workflow 十毫秒级的稳定路径被换成十秒级的多轮工具调用,成本十倍、准确率反而下降——工具选择本身引入了新的失败面。

误用二:全链路 Agent 化。把"工单进入 → 分类 → 处理 → 归档"整条业务都交给一个大 Agent:

# 错误写法:全链路塞给一个大 Agent,每张工单都走多轮循环
def handle_ticket(ticket):
    return agent_loop(tools=ALL_TOOLS, goal=f"处理这张工单:{ticket.text}")

# 正确写法:workflow 做主体,只有路径真正不可预知的一步交给 Agent
def handle_ticket(ticket):
    category = classify(ticket.text)                  # 一次 LLM 调用
    if category in SIMPLE_CATEGORIES:
        return faq_answer(ticket, KB[category])       # 固定检索 + 生成
    if category == "复杂排查":
        return agent_loop(tools=INVESTIGATE_TOOLS,    # 小而专的工具集
                          goal=f"排查工单 {ticket.no} 的根因,输出结论与依据")
    return route_to_human(ticket)

正确姿势的核心是"Agent 嵌在 workflow 的某一步":分类用路由、归档用代码,只有"复杂工单的排查"交给 Agent——因为只有它的路径真的不可预知。

误用三:给 Agent 塞二十个工具让它"什么都会干"。工具越多选择错误率越高,权限面也越大。Agent 应该小而专:一个场景、三五个工具、一个清晰目标。工具数量还有组织上的代价:二十个工具意味着二十条鉴权规则要维护,出事故时的排查面也是二十个——“小而专"同时是安全原则。

成本与风险的账

升级到 Agent 要付的账不止 token。延迟从毫秒级变成秒级到分钟级,交互式场景里用户感知明显;同一输入两次执行路径可能不同,回归定位必须靠轨迹回放而不是断言;失败半径变大——workflow 里一步失败可以精确定点重试,Agent 失败可能已经带着错误的中间结论走了很远。还有可解释性:客服和财务场景的每一次决策都可能要向用户或审计方解释"为什么这么做”,workflow 的分支条件就是解释,Agent 的解释是"模型当时这么想"。组织成本同样真实:Agent 化的步骤需要轨迹回放、评估、熔断这些配套设施,每一样都是持续投入——团队没有这些设施时,“先 workflow 后 Agent"不只是架构顺序,也是能力建设顺序。

一句话决策规则

先用最笨的方案(单次调用或 workflow)实现,跑评估集;评估集证明模型需要自主决策才能达标时,再升级为 Agent。右移要有证据,这个证据就是 evals——而不是架构偏好,也不是"更智能"的想象。“最笨的方案"不是贬义:它是最快被证伪的方案。评估集跑一遍就知道它差在哪——差在分支不够(加分支)、差在路径不可预知(右移到 Agent)、差在模型能力(改 Prompt 或换模型),每种诊断对应不同的下一步,比凭感觉选架构便宜得多。

实战场景

工单系统改造时团队有一场争论:一方主张全链路 Agent 化"一步到位”,一方主张先 workflow。最后用评估数据收场:先实现路由 workflow(分类 + 检索 + 人工兜底),评估集里绝大多数 case 达标,只有"跨系统排查类"工单不达标——这类的排查路径确实无法枚举,要跨运单、轨迹、计费三个系统来回查。把这一步单独 Agent 化:三个工具、明确目标、独立步数熔断,其余环节保持 workflow。上线后按 case 维度看回归,排查类 case 转绿,其余 case 的延迟和成本与改造前持平。期间还有一次未遂升级:有人提议把归档步骤也交给 Agent"更智能”,拉了该步骤的历史 case 一跑,代码路径全部稳定通过,提案被否。这场改造沉淀下来的规矩:每次想升级某一步的"智能化",先问评估集要证据——大多数时候证据说不用。另一半规矩同样成立:谱系上的位置不是终身制——某个 Agent 化的步骤跑了一段时间后分支变得可枚举,改回代码路径是收益而非倒退,位置要跟着任务形态走。

检查清单

  • 新需求默认从单次调用或 workflow 起步,不从 Agent 起步
  • 用三个问题定位档位:分支可否枚举、失败要不要复现、输入是否开放
  • Agent 只嵌在 workflow 中路径真正不可预知的那一步
  • 每个 Agent 小而专:一个场景、三五个工具、一个清晰目标
  • 升级到 Agent 前用评估集证明 workflow 不达标,右移要有证据
  • 为 Agent 化的步骤单独设置步数与 token 熔断
  • 审计敏感场景评估可解释性成本:分支条件就是解释
  • 已有稳定代码路径的步骤,不因"更智能"的想象升级