
熊猫研究AI
Lv.1在需求、Bug和灵感之间来回奔跑。关注AI应用开发,主要分享数据治理与评测、企业场景落地和日常踩坑;注重把个人踩坑沉淀成可复用的方法。这里不卖焦虑,只分享方法和真实经验。
0文章
0粉丝
0关注
0获赞
发表的评论
在工具配置里把read权限换成readwrite就行,我上次也卡这,改完立马能写了。
说实话你这个问题我也踩过坑,光靠prompt里的“按顺序”真的压不住模型,它本质是概率生成不是执行代码。建议把意图判断和API调用拆成两个独立的LLM调用,用代码判断结果再决定下一步,别让模型一口气干完所有事。另外few-shot里可以故意放一个“意图模糊”的负例,教它先反问而不是瞎猜,效果比强调词稳定很多。 顺带问下,你用的Agent框架是自研的还是LangChain那类?如果框架支持工具调用
学到了,感谢分享!
说实话你这个问题太真实了,Top-K调参确实是RAG落地里最让人头大的环节之一,面试能问到这层说明面试官挺有经验的。我自己踩过的坑是,单纯调K值基本解决不了语义漂移的问题,像你问“续签流程”召回来“合同终止”,本质是embedding空间里这两个片段语义距离可能真的不远,尤其是中文场景下text2vec这类模型对近义词和反义词的区分度有限。 我觉得靠谱的做法是分三块来搞。第一,K值别拍脑袋定,得