AI PM 的 Agent 九步设计流程

动手设计前先做减法。这一步是设计的前置闸门：agent 贵、慢、不可预测，只有当任务的执行路径事前无法确定，且必须根据运行中的反馈动态决定下一步时，才值得使用。

如果步骤和分支可以事前写死，就优先做 workflow；如果确实需要动态判断，再继续往下定义 agent，或者采用“决策层 agent + 执行层确定性流程”的组合。

• 先问步骤和分支能不能事前写死，再问是否必须看到中间结果才知道下一步。
• 步数不定、分支爆炸、需要响应意外反馈，是 workflow 的三堵墙。
• 产出物是一句话结论，并标出哪一层使用 agent、哪一层使用确定性工具。

把 agent 的唯一任务和明确不做什么钉死。目标越聚焦，agent 越稳；边界越模糊，它越容易乱伸手、乱兜底和乱承诺。

用“它负责 X，不负责 Y”的句式收紧职责。宁可先做窄而可迭代的 agent，也不要一开始就把所有售后、运营或知识问答都塞进同一个职责里。

• 职责陈述：一句话说明 agent 唯一负责的任务。
• 明确不做清单：列出越权、越界和不承诺的场景。
• 把灰色地带提前写出来，避免 agent 自由发挥。

agent 能干什么，完全由工具决定。工具是 agent 的手，也是它的风险面；没有提供的能力，它无法完成，提供过多的能力则会增加选错工具和传错参数的概率。

从目标倒推完成任务所需的最少能力，一种能力对应一个工具，并把危险工具单独标记给后续护栏设计。

• 每个工具都写清名称、功能、输入和输出。
• 不可逆、花钱、改变权限的工具必须单独标记。
• 工具描述要足够明确，让模型知道何时调用、如何传参。

指令是 agent 的行为准则，负责把目标边界、工具用法、判断优先级、语气和边界处理翻译成可执行的自然语言。

重点写清“如果……就……”的条件分支，例如命中金额阈值转人工、不同状态走不同工具。指令负责引导，但不能替代真正的安全控制。

• 定义角色、判断规则、优先级、语气和边界处理。
• 明确工具的调用条件、参数要求和结果解释方式。
• 把危险动作交给代码层护栏，不把安全只寄托在 prompt 上。

先判断需求是否真的需要跨轮或跨会话记忆。单次任务可以闭环时，不要为了“像 agent”而增加长期记忆；只有需要记住用户身份、上次进度或稳定偏好时，才引入长期记忆。

需要记忆时，继续明确记什么、存在哪里、保留多久，以及如何处理过时信息。长期记忆通常依靠检索实现，本质上会把 RAG 的准确性和新鲜度问题带进来。

• 判断是否需要记忆，以及是短期任务记忆还是长期记忆。
• 定义记忆内容、存储位置、保留期限和更新规则。
• 避免把不必要的历史信息带入当前判断，污染任务上下文。

产品经理不需要编写执行循环，但要定义“怎么算完成”和“最多转几圈”。这两个参数决定 agent 是停得太早，还是出问题后持续空转。

完成条件从目标倒推，最大步数、超时和预算上限则应根据真实任务的步数分布实测确定，既覆盖正常任务，也能及时兜住异常。

• 完成条件：描述什么状态算任务达成。
• 循环护栏：定义最大步数、超时和预算上限。
• 参数要覆盖正常复杂度，不能放任异常任务无限消耗。

把危险的、不可逆的、花钱的动作设成“暂停，等待人工确认，再执行”。agent 会犯错，也可能被诱导，护栏直接决定它能不能进入生产。

先把工具按“禁止、需确认、放行”分级，再为每类动作定义触发阈值。代码层必须强制执行，不能只在 prompt 中提醒。

• 禁止：绝对不能自动执行的动作和红线行为。
• 需确认：涉及资金、权限、不可逆影响或高影响面的动作。
• 放行：风险可控、可回滚且不改变外部状态的动作。
• 产出物是一张动作分级表，以及每类动作的触发阈值。

一个能上生产的 agent，必须有一条清晰的“我不行了 → 转人工”的路。工具报错、绕圈、置信度低或命中边界时，应安全退出，而不是硬撑、乱编或卡死。

转人工不是失败，而是产品流程的一部分。交接时要把已经收集的信息、调用结果和失败原因一并带过去，避免用户重复描述问题。

• 触发条件：超最大步数、工具连续报错、低置信度或超出职责边界。
• 兜底动作：转人工、给出明确话术，或安全退出。
• 交接内容：用户诉求、已确认信息、工具结果、失败原因和建议下一步。

上线前必须能回答：这个 agent 是否靠谱地完成任务、成本是否可接受、失败时是否能恢复，以及多少任务需要人工兜底。

评估不能只看最终答案对不对，还要检查是否编造、是否走过危险路径、调用次数是否合理，以及失败是否被正确交接。

• 质量：任务完成率、事实可靠性和关键场景通过率。
• 可靠性：工具出错率、失败恢复率和异常退出率。
• 成本：每次任务的调用数、token 和时间成本。
• 人工介入率：最终需要 escalate 的任务比例。
• 为每项指标设上线红线，不达标就不进入正式发布。