用Prompt写了个AI Agent，结果它总是自作主张，怎么约束？

这问题我熟，之前搞内部工具Agent也卡在这。光靠System Prompt确实管不住，模型生成时上下文一长就容易“忘本”。建议试试把约束拆成两步：先用一个意图识别节点把用户问题分类，再给每个分类配上独立的Prompt子Agent，这样它就没机会自由发挥了。另外，你可以在关键输出前加个“必须基于以下对话记录回答，不得引入未提及信息”这种硬性条件，亲测比“只回答相关”有效得多。

这问题太真实了，纯靠System Prompt确实压不住Agent的自由发挥。我的经验是得给输出加个“结构化约束”，比如让它在回答前先输出一个内部推理步骤，强制它判断用户意图属于哪个预设分类，然后再调用对应的话术模板。你可以试试把决策树逻辑写进Prompt里，但要用“如果用户问A，则只处理A，禁止提及B”这种带具体场景的硬规则，比“只回答相关”管用得多。另外，记得把“推荐会员卡”这类主动行为改成需要用户明确同意才触发，不然它总觉得这是分内事。

这个问题我太有同感了，之前调客服Agent也踩过同样的坑。你光在System Prompt里写“只回答相关的”确实没用，因为LLM对否定句和抽象规则的理解很弱，它更吃具体的“行为范式”。我的经验是得把“决策树”的思路直接翻译成Prompt里的if-then结构，比如“当用户提到退货时，仅输出退货政策，禁止提及物流，除非用户主动追问”。另外还要给Agent加一个“兜底回复”的明确指令，让它遇到不确定场景就复述用户问题或转人工，而不是自己发散。但说实话，纯靠Prompt约束终究有极限，复杂业务场景最好在代码层做意图识别和状态机，把对话流程控制权从模型手里拿回来。你现在这个Agent是单轮对话还是带记忆的多轮？如果是后者，还得定期清理或压缩历史记录，不然上下文一长，它更容易把之前聊过的内容翻出来自作主张。

这问题我太有同感了，纯靠System Prompt压行为确实压不住，Agent一多轮对话就容易把上下文里的隐含意图当指令。我的经验是给输出加个“动作白名单”，比如只允许返回回答、转人工、结束这几个动作，再配合few-shot示例把边界焊死。另外你提到的决策树其实可以简化成“意图路由”，先让模型判断用户问题属于哪一类，再走对应的子prompt，比让它自由发挥靠谱得多。你可以试试把退货和物流的逻辑拆成两个独立的小Agent，主Agent只负责分类，不直接生成回答。

光靠Prompt确实容易跑偏，建议加个意图分类节点，先判断用户问的是啥再交给Agent回。

这个问题我也踩过，光靠System Prompt写“只回答相关问题”基本没用，模型该跑偏还是跑偏。我的经验是得加一层输出前的校验，比如让它先判断用户意图属于哪个类目，不在范围内就直接走兜底话术，而不是让主模型自由发挥。另外推荐会员卡这种大概率是你Prompt里留了“可主动推荐”的模糊空间，Agent会自己脑补。决策树确实有用，但更实际的是把边界写成硬规则加few-shot反例，光靠一句约束太软了。