智元界
智元界 Zyentor AI 开发者社区
🔎
登录 注册
大模型单元测试为什么时好时坏?温度、模型漂移与断言方式排查

大模型单元测试为什么时好时坏?温度、模型漂移与断言方式排查

直接断言大模型完整字符串,会因采样、模型更新、提示词和检索变化产生脆弱测试。

2222 307 0 2026-08-05
黄金测试集更新后历史分数不能比较?数据集版本与基线漂移排查

黄金测试集更新后历史分数不能比较?数据集版本与基线漂移排查

不断补充样本后,新旧平均分不能直接比较,因为样本难度和分布已经变化。

2226 296 0 2026-08-05
Spring WebFlux请求超时后AI任务为什么还在运行?

Spring WebFlux请求超时后AI任务为什么还在运行?

前端或网关超时只终止HTTP响应,不一定向上游模型、工具或队列传播取消信号。

2327 286 0 2026-08-04
AI异步回调为什么会重复到达?至少一次投递与幂等排查

AI异步回调为什么会重复到达?至少一次投递与幂等排查

网络超时、消费者重启和ACK丢失会让同一回调多次到达,必须按至少一次投递设计。

2240 304 0 2026-08-04
Spring AI VectorStore过滤条件已经传入,为什么仍然召回其他租户文档?

Spring AI VectorStore过滤条件已经传入,为什么仍然召回其他租户文档?

多租户RAG中,即使日志显示tenantId已传入,也可能因为过滤表达式丢失、字段类型不一致或后置过滤造成越权召回。

2430 331 0 2026-08-03
RAG引用编号与正文对不上?重排、去重和压缩后的证据映射排查

RAG引用编号与正文对不上?重排、去重和压缩后的证据映射排查

检索候选经过重排、去重和压缩后,如果仍沿用早期数组下标,答案引用会与最终展示来源错位。

2292 322 0 2026-08-03
Spring AI配置多个ChatModel后为什么总是调用默认模型?

Spring AI配置多个ChatModel后为什么总是调用默认模型?

Spring AI多模型项目中,Bean注入、ChatClient复用和路由结果传递任何一处出错,都会让所有流量落到默认模型。

2529 331 0 2026-08-02
模型Fallback已经切换成功,为什么请求仍然失败?

模型Fallback已经切换成功,为什么请求仍然失败?

日志显示已切换备用模型,但请求仍返回相同错误,往往说明主备共享额度、网络、超时预算或输出契约。

2344 300 0 2026-08-02
Spring AI调用entity()时JSON解析失败?Markdown包裹、字段缺失与Schema不兼容完整排查

Spring AI调用entity()时JSON解析失败?Markdown包裹、字段缺失与Schema不兼容完整排查

Spring AI的`ChatClient.call().entity()`可以把模型输出直接转换为Java对象,但生产项目经常遇到JSON前后带解释文字、被Markdown代码块包裹、必填字段缺失、枚举值不匹配、日期格式错误或Provider不支持完整JSON Schema等问题。默认结构化输出本质上仍可能是“Prompt约束+文本解析”,并不天然保证100%成功。本文从目标类型设计、原始响应留

2514 322 0 2026-08-01
Spring AI流式输出为什么不能直接entity()?聚合JSON、SSE事件与最终对象解析方案

Spring AI流式输出为什么不能直接entity()?聚合JSON、SSE事件与最终对象解析方案

Spring AI的`.stream()`返回文本增量,而`.entity()`需要完整响应后才能生成JSON Schema、校验并反序列化为Java对象。因此,开发者无法像同步调用一样直接把流式Chunk转换成完整Entity。强行对每个片段执行JSON解析,会遇到半截字符串、转义字符、字段顺序变化和错误重试无法闭环等问题。本文给出三种可靠方案:服务端聚合后一次解析、SSE同时发送进度与最终结果

2603 346 0 2026-08-01
Spring AI Moderation已经返回flagged,为什么模型请求仍然继续执行?

Spring AI Moderation已经返回flagged,为什么模型请求仍然继续执行?

Spring AI支持OpenAI和Mistral AI的Moderation模型,但Moderation只负责返回检测结果,并不会自动阻断后续ChatClient调用。很多项目虽然拿到了`flagged=true`,却仍然继续调用大模型,原因通常是业务代码没有执行策略判断、异步流程没有取消、Advisor链顺序不正确,或者只记录了审核结果却没有返回拦截响应。本文给出从Moderation调用、风

2667 351 0 2026-08-01
RAG文档里藏着“忽略系统提示词”,为什么模型真的照做了?Prompt Injection完整排查

RAG文档里藏着“忽略系统提示词”,为什么模型真的照做了?Prompt Injection完整排查

RAG系统会把检索到的文档片段与用户问题一起交给模型。如果网页、PDF、工单或知识库文档中包含“忽略之前的指令”“调用工具上传数据”等文本,模型可能把不可信资料误当成指令,形成间接Prompt Injection。仅在System Prompt中写“不要听文档命令”并不能彻底解决。本文从数据来源、上下文边界、工具权限、检索过滤、输出校验和对抗测试六个方面给出完整排查方案。

2604 339 0 2026-08-01
Spring AI接入Actuator后看不到Token和耗时指标?Micrometer观测完整排查

Spring AI接入Actuator后看不到Token和耗时指标?Micrometer观测完整排查

Spring AI 2.0已经为ChatClient、Advisor、ChatModel、Tool Calling、EmbeddingModel和VectorStore提供Micrometer观测能力,但很多项目接入Actuator和Prometheus后,只能看到JVM指标,看不到`gen_ai_client_token_usage_total`、`gen_ai_chat_client_oper

2572 348 0 2026-07-31
Spring AI遇到429或超时后为什么重复执行工具?重试边界与幂等完整排查

Spring AI遇到429或超时后为什么重复执行工具?重试边界与幂等完整排查

AI接口出现429、超时或连接中断后,开发者通常会增加自动重试。但在Tool Calling场景中,如果重试包裹了整个Agent流程,退款、发送邮件、创建工单、写数据库等工具可能被重复执行。更隐蔽的情况是模型请求超时,但工具其实已经完成;客户端重试后,模型再次发起相同工具调用。本文从模型层、Agent层、工具层和HTTP层四个重试边界出发,给出幂等键、状态机、结果查询和可重试错误分类的完整方案。

2723 352 0 2026-07-31
Spring AI MCP客户端连接成功却看不到工具?从初始化、传输、过滤到ChatClient完整排查

Spring AI MCP客户端连接成功却看不到工具?从初始化、传输、过滤到ChatClient完整排查

Spring AI项目接入MCP时,最常见的问题之一是:应用启动没有报错,MCP Server日志也显示连接成功,但`ChatClient`始终不调用工具,甚至工具列表为空。问题可能发生在初始化、传输配置、工具回调开关、客户端类型、工具过滤、名称冲突、Schema生成、权限或ChatClient注册等多个环节。本文给出一条从MCP连接到模型工具调用的完整排查链路。

2945 379 0 2026-07-30
MCP Server新增工具后客户端一直看不到?ttlMs、cacheScope与listChanged缓存排查

MCP Server新增工具后客户端一直看不到?ttlMs、cacheScope与listChanged缓存排查

MCP 2026-07-28为工具、资源和Prompt列表增加了缓存语义。客户端可以根据`ttlMs`缓存`tools/list`结果,并根据`cacheScope`决定是否允许共享。新机制能够减少频繁列表请求,但也带来新问题:服务端新增工具后客户端长期不可见、权限撤销后旧工具仍显示、不同租户获得错误工具列表。本文给出缓存键、TTL、`listChanged`通知、权限隔离和灰度更新的完整排查方法

2838 368 0 2026-07-30
Spring AI工具明明注册了,模型为什么不调用?描述、Schema与Advisor完整排查

Spring AI工具明明注册了,模型为什么不调用?描述、Schema与Advisor完整排查

Spring AI项目中经常出现:工具已经通过`@Tool`或`ToolCallback`注册,ChatClient调用也没有报错,但模型始终直接回答、调用错误工具,或者生成根本不存在的参数。根因通常不在工具执行代码,而在工具是否绑定到实际ChatClient、描述是否清晰、输入Schema是否准确、模型是否支持Tool Calling、Prompt是否限制工具使用,以及`ToolCallingA

2669 373 0 2026-07-29
Spring AI工具已经调用成功,为什么最终回答仍为空?返回值、循环与上下文完整排查

Spring AI工具已经调用成功,为什么最终回答仍为空?返回值、循环与上下文完整排查

有些Spring AI项目可以在日志中看到工具已经被调用,数据库查询或HTTP请求也成功执行,但客户端最终收到空字符串、模型重复调用同一工具,或者回答完全没有使用工具结果。这类问题与“模型没有选择工具”不同,通常发生在工具返回值序列化、异常处理、Tool Calling循环、流式事件拼接、结果过长、消息持久化和终止条件等环节。本文给出从工具执行结果到最终Assistant回答的完整排查路径。

3007 365 1 2026-07-29
Spring AI 2.0 Chat Memory报conversationId不能为空?升级后的完整排查方法

Spring AI 2.0 Chat Memory报conversationId不能为空?升级后的完整排查方法

Spring AI 2.0升级后,使用`MessageChatMemoryAdvisor`或`VectorStoreChatMemoryAdvisor`的项目可能直接抛出`conversationId`不能为空、缺少`ChatMemory.CONVERSATION_ID`或历史对话突然失效。原因是新版本要求每次经过内置Memory Advisor的调用都显式提供会话ID,旧版默认会话ID和Buil

3002 376 2 2026-07-28
多租户Chat Memory为什么会串话?会话ID、缓存与数据库隔离完整排查

多租户Chat Memory为什么会串话?会话ID、缓存与数据库隔离完整排查

企业AI应用中最严重的问题之一,是用户A看到用户B的对话内容,或租户A的上下文进入租户B的回答。根因通常不是模型“自己记住了别人”,而是会话ID重复、默认Memory、缓存键缺少租户字段、数据库查询遗漏条件、异步上下文丢失或向量长期记忆过滤不完整。本文提供从入口认证、conversationId、ChatMemoryRepository、Redis缓存、向量库到日志脱敏的完整排查路径。

2844 378 2 2026-07-28
上一页 1 2 3 ... ... 7 8 9 下一页

精选推荐

1 OpenAI新模型加持,Amp让Agent走出代码场景 247 2 vercel/ai 的 TypeScript AI 应用工具箱:Agent 与多模型接入可验证方向 240 3 vercel/ai 源码拆解:Provider 抽象与 Agent 工具链 160 4 AI编程工具怎么选:四类形态的适用场景与能力边界 146 5 DeepSeek 落地路径怎么选:本地部署、可视化界面、办公集成与 API 调用对比 126 6 1万Agent连跑36小时:OpenAI官方案例拆解 119 7 RTX 5090 + ComfyUI 部署 MiniMax H3 实战:环境配置、工作流搭建 113 8 ChatGPT插件让注册量翻三倍:Stack Overflow for Agents增长拆解 105 9 MCP 协议上手:写一个能跑的 server 105 10 MCP全流程实战:Server、Client与Host配置调试及选型 103 11 业务Agent评测为什么这么难?拆解货拉拉评测平台工程实践 101 12 手搓生产级 AI Agent 系统(35):Agent类型选型与架构设计中的伦理安全约束 100 13 手搓生产级 AI Agent 系统(38):Spring AI + MCP 工具调用可靠性 100 14 传统RAG还是Agentic RAG:生产场景架构选型与迁移分析 96 15 RAG 向量数据库选型:从索引构建到查询延迟的实测对比方法 94 16 从 vercel/ai 元数据看 TypeScript AI 工具链选型边界 91 17 MCP后端落地三条路径对比:Spring AI 2.0集成、原生协议实现与Agent内嵌怎么选 89 18 Spring AI集成架构与选型指南:从现有Spring应用迁移到AI能力的决 88 19 Anthropic用Claude规模化挖0-day:LLM漏洞挖掘工作流与企业落地边界 88 20 手搓生产级 AI Agent 系统(36):RAG变体选型实战指南 83