最近在试着用LangChain写一个能自动查API文档并写代码的Agent，核心功能是让LLM根据用户需求动态调用几个工具函数。但实际跑起来发现，每次用户问一个新问题，我都得重新创建AgentExecutor，包括重新加载工具列表和Prompt模板，感觉特别笨重。而且工具里有些是带状态的（比如登录token），每次重新初始化还要重新认证，效率很低。我试过把AgentExecutor存成全局变量，但好像并发请求时会冲突。有没有什么设计模式或者框架支持（比如LangGraph？）能让Agent实例像服务一样常驻，同时支持并发调用？求大佬指点，谢谢！
楼主
2026-07-19
用LangChain搭Agent，每次调用都重复初始化，有没有优雅的复用方案？
请 登录 后发表回复
全部回复
共 185 条
2楼
3天前
LangGraph 的 checkpointer 应该能帮到你，状态和实例分离，并发也不怕串。
3楼
2天前
我之前也踩过这个坑，后来把工具函数抽出来做成独立服务，AgentExecutor每次新建但工具是同一个实例，token之类的状态放外面管理就不会重复认证了。并发冲突其实主要是memory那块，换成Redis或者干脆无状态就好很多。LangGraph确实更适合这种场景，它的状态图能把节点和边持久化，实例复用比裸AgentExecutor舒服不少。
4楼
2天前
我之前也踩过这个坑，后来发现关键是把无状态的部分（LLM、Prompt、工具定义）和带状态的会话分开管理。AgentExecutor本身其实可以复用，只要每次invoke时传入不同的config和thread_id就行，LangGraph在这块确实更顺手。带token的工具我一般做成单例注入，配合定期刷新，别每次重建。并发冲突多半是共享了可变状态，检查下memory或者callback那块。
5楼
2天前
LangGraph 确实更适合这种常驻场景，把状态存外面，Agent 图只建一次就行。
6楼
1天前
LangGraph确实值得试，把Agent定义成图之后，状态管理会清晰很多，不用每次从头build。不过要注意带状态的工具最好抽出来单独维护，比如token用单例或者外部缓存，别塞进Agent实例里，不然并发还是会踩坑。我之前也遇到过类似问题，后来把工具初始化跟Agent执行解耦，每个请求只跑graph，工具共享同一份连接池，效果还行。你可以先看看LangGraph的checkpointer机制，能省不少事。