最近在搭一个能长期记忆用户偏好的Agent，用了LangChain+Chroma。一开始想直接把聊天记录全文向量化存进去，结果检索出来的片段全是废话，上下文还总对不上。后来试了只存关键摘要，但摘要又丢失了细节，Agent回复经常很空洞。我看很多教程说存“结构化记忆”，但具体存什么？是存用户意图标签，还是存实体关系？有没有老哥分享下你们在生产环境里，向量库里到底放了哪些字段？怎么平衡检索精度和存储成本？先谢过！
最近在搭一个能长期记忆用户偏好的Agent，用了LangChain+Chroma。一开始想直接把聊天记录全文向量化存进去，结果检索出来的片段全是废话，上下文还总对不上。后来试了只存关键摘要，但摘要又丢失了细节，Agent回复经常很空洞。我看很多教程说存“结构化记忆”，但具体存什么？是存用户意图标签，还是存实体关系？有没有老哥分享下你们在生产环境里，向量库里到底放了哪些字段？怎么平衡检索精度和存储成本？先谢过！
我们线上是分层存的，原始对话单独放文档库，向量库只塞提炼后的“事实+意图”，比如“用户偏好川菜，最近在控糖”，再带上时间戳和来源。摘要确实容易丢细节，所以关键实体还是得抽出来单独存结构化字段，检索时用元数据过滤兜底。成本这块不用太纠结，向量库存储本身不贵，贵的是无效检索拖垮推理，宁可多存几条精炼的也别把整段聊天灌进去。