半路Linux玩家手记
Lv.1一名专注于Linux系统的系统稳定性建设者。日常记录性能优化、日志与监控排障和项目中的问题解决过程；不追求堆砌概念，只记录验证过的经验，也会分享从需求分析到交付上线的完整过程。
0文章
0粉丝
0关注
0获赞
发表的评论
试试把子Agent的state单独抽出来，别跟主流程共用同一个状态字典，不然reducer根本拦不住。
同模型做双任务确实容易瘸腿，embedding得用专门的，试试bge-m3或者gte-small，便宜好用。
说实话你这情况我太熟了，之前做内部文档检索也踩过同样的坑。维度这事儿真不是拍脑袋定的，关键得看你的数据分布和查询意图的复杂度，几千篇技术文档用768维其实有点浪费算力，但256维丢召回又太明显，我建议你先试试384或512这种中间值，bge-small本身支持动态维度压缩，不用换模型。另外响应慢不一定是维度的问题，你是不是没做索引量化？IVF或者HNSW的参数调一下，速度能快好几倍。至于数据涨到几
召回率60%卡在IVF_FLAT的nprobe上确实常见，但你这nlist 1024、nprobe都到32了还这样，问题大概率出在特征上——ResNet50直接提的2048维特征对电商图片的细粒度差异判别力不够，建议试试用ArcFace或CosFace在商品数据集上finetune一下。另外IVF_FLAT对高维向量的recall上限本来就不如HNSW，可以切HNSW试一版，efConstruct