最近在搭一个AI Agent，想用RAG做长期记忆，把历史对话向量化存进Chroma。但遇到个问题：用户聊了10轮后，我检索最近的记忆来做上下文，结果经常混进来一些跟当前话题完全无关的旧内容，比如昨天聊的菜谱今天聊代码时被拉出来。试过调高相似度阈值（0.85），但有些相关记忆反而被过滤了。是不是我的chunk切割策略有问题？还是应该用时间加权混合检索？感觉官方文档里没讲清楚实际场景怎么调参，求大佬指点。
最近在搭一个AI Agent，想用RAG做长期记忆，把历史对话向量化存进Chroma。但遇到个问题：用户聊了10轮后，我检索最近的记忆来做上下文，结果经常混进来一些跟当前话题完全无关的旧内容，比如昨天聊的菜谱今天聊代码时被拉出来。试过调高相似度阈值（0.85），但有些相关记忆反而被过滤了。是不是我的chunk切割策略有问题？还是应该用时间加权混合检索？感觉官方文档里没讲清楚实际场景怎么调参，求大佬指点。
光调阈值确实不太行，0.85这种硬切很容易误伤。我之前也踩过这个坑，后来改成先按时间窗口取最近N轮，再在这个小范围里做相似度召回，效果明显好很多，老话题基本不会乱入。chunk切割你可以看看是不是一句话被拆太碎了，碎chunk相似度虚高也是常见原因。另外纯向量检索对话题切换不敏感，加个时间衰减权重或者用MMR做点多样性控制值得试试。