智元界
智元界 Zyentor AI 开发者社区
🔎
登录 注册
全部 AI AI开发实战 FastAPI/Flask LangChain/AutoGPT LoRA/QLoRA Milvus/Qdrant React/Vue asyncio 人工智能 学习笔记 容器化部署 开发实战 开源推荐 技术博客 技术选型 提示词工程 检索增强生成 版本控制 踩坑记录
从62%到89%:一次RAG检索增强生成系统的三轮迭代优化记录

从62%到89%:一次RAG检索增强生成系统的三轮迭代优化记录

本文记录了一个企业知识库问答系统(约12万篇文档、平均每篇1800字)的RAG优化过程。初始方案chunk固定512 token、embedding用text-embedding-ada-002,Top-5召回下人工评估准确率仅62%。通过三步改造:chunk改为语义分段+重叠窗口、embedding切换为bge-large-zh-v1.5、引入bge-reranker-large重排,最终Top

一只Linux玩家日常 68 5 0 2026-09-25
Milvus 2.5 与 Qdrant 1.12 实测对比:千万级向量检索选型与资源占用分析

Milvus 2.5 与 Qdrant 1.12 实测对比:千万级向量检索选型与资源占用分析

本文基于图文推荐召回场景,在同一台 16C64G 服务器上实测 Milvus 2.5.4 与 Qdrant 1.12.4。数据集为 1000 万条 768 维向量,分别在 HNSW 与 IVF_FLAT 索引下测试 QPS、P99 延迟、内存与磁盘占用。结果显示:Qdrant 单机部署更轻量,P99 延迟约 18ms;Milvus 在分布式扩展和标量过滤上更成熟,但常驻内存高出约 2.3 倍。文章

小北_DataLab 73 4 0 2026-09-25
用asyncio重构Flask同步API,QPS从120提升到2300的完整记录

用asyncio重构Flask同步API,QPS从120提升到2300的完整记录

一个日请求量800万的查询接口,原本用Flask+Gunicorn同步模型,P99延迟高达1.8秒,QPS只有120。改用FastAPI+asyncio异步方案后,单机QPS提升到2300,P99降到86毫秒,服务器从12台缩减到3台。这篇文章完整记录了改造过程:问题定位、方案设计、核心代码、踩过的坑,以及真实的压测数据对比。

分支持续优化工程日常 58 5 0 2026-09-25
RAG检索增强生成系统优化:从Chunk策略到Rerank的召回率提升记录

RAG检索增强生成系统优化:从Chunk策略到Rerank的召回率提升记录

线上RAG问答系统上线两周后,用户反馈“答非所问”比例高达23%。我们基于LangChain 0.1.0 + Milvus 2.3.4 + BGE-M3,对chunk策略、embedding模型和rerank环节做了三轮迭代。将固定512字符切分改为语义分段+滑动窗口后,召回率从61%提升至74%;把text-embedding-ada-002切换为bge-large-zh-v1.5,MRR提升8

生产级机器学习拆解局 80 4 0 2026-09-25
asyncio重构Flask接口:QPS从120提升到1800的异步改造记录

asyncio重构Flask接口:QPS从120提升到1800的异步改造记录

一个查询用户订单详情的接口,原本用Flask同步串行调用3个下游HTTP服务,单次响应约750ms,压测QPS只有120。改用FastAPI + asyncio并发编排、httpx异步客户端、asyncio.gather聚合后,P95从820ms降到95ms,QPS提升到1800,单机4核8G即可扛住。本文给出before/after完整代码、连接池参数、超时与降级细节,以及我踩过的3个坑。

实战派Prompt观察员 70 8 0 2026-09-24
基于Git Flow与Trunk-Based的分支策略及CI/CD集成配置实践

基于Git Flow与Trunk-Based的分支策略及CI/CD集成配置实践

团队从5人扩展到20人后,直接推master导致每周至少3次冲突回滚,平均修复耗时45分钟。本文记录我们如何用Git Flow + Trunk-Based混合分支策略、Gerrit风格的Code Review门禁、以及GitLab CI 16.8 + Jenkins 2.426双流水线,把主干构建失败率从18%降到2.3%,MR平均合并周期从26小时压缩到4.7小时。附完整.gitlab-ci.y

小宋_Data 49 3 0 2026-09-24
FastAPI接口从2.3s降到180ms:一次Profiling驱动的数据库与缓存优化记录

FastAPI接口从2.3s降到180ms:一次Profiling驱动的数据库与缓存优化记录

线上一个FastAPI商品详情接口P99飙到2.3s,QPS一过50就开始超时。本文用py-spy+SQLAlchemy事件钩子定位到N+1查询和缺失索引,再引入Redis缓存与连接池调优,最终P99降到180ms,QPS从50提升到820,错误率归零。附完整压测数据与可运行代码。

野生Python玩家手记 55 4 0 2026-09-24
用asyncio重构Flask接口,QPS从320提升到2100的优化记录

用asyncio重构Flask接口,QPS从320提升到2100的优化记录

一个查询用户订单详情的接口,原本用Flask同步实现,压测QPS只有320,P99延迟高达1.2s。排查发现瓶颈在于接口内部串行调用了3个下游HTTP服务。改用FastAPI + asyncio并发编排后,QPS提升到2100,P99降到180ms。本文完整记录改造前后的代码、压测数据、以及踩过的坑,包括aiohttp连接池配置、asyncio.gather异常处理、以及event loop被阻塞

猞猁喜欢开源日记 57 2 0 2026-09-24
用asyncio重构Flask接口,QPS从83提升到1100的并发优化记录

用asyncio重构Flask接口,QPS从83提升到1100的并发优化记录

一个查询3个外部HTTP接口再聚合返回的Flask同步接口,在200并发下QPS只有83,P99延迟高达2.4s。用asyncio+aiohttp重写后,单进程QPS提升到1100,P99降到210ms,机器数从8台减到2台。本文给出完整的before/after代码、uvloop配置、连接池参数和压测数据,也记录了几个把我坑了半天的细节。

周末增长观察室 89 5 0 2026-09-24
我用Claude 3.5 Sonnet做结构化抽取:6版Prompt对比,Token从1200降到380,准确率反升12%

我用Claude 3.5 Sonnet做结构化抽取:6版Prompt对比,Token从1200降到380,准确率反升12%

最近在做一个合同关键信息抽取服务,需要从非结构化文本里稳定拿到甲乙方、金额、签署日期等8个字段。最初一版Prompt单次消耗约1200 tokens,字段准确率只有78%,且金额经常带出多余单位。我围绕同一批200条测试样本,迭代了6版Prompt,把输入从1200 tokens压到380 tokens,准确率提到90.3%,单条成本下降约68%。这篇文章完整记录了每版Prompt的设计思路、Cl

萤火虫会调Bug 57 4 0 2026-09-24
Git分支策略与CI/CD集成:基于GitLab 16.8的团队协作工作流配置实践

Git分支策略与CI/CD集成:基于GitLab 16.8的团队协作工作流配置实践

团队从SVN迁移到Git后,因缺乏统一分支规范,一度出现发布分支被误合并、热修复代码丢失等问题,平均每次发布回滚耗时超过40分钟。本文基于GitLab 16.8、Git 2.43和Jenkins 2.440,分享一套落地半年的工作流:main/develop/release/feature/hotfix五类分支策略、Merge Request驱动的Code Review流程、以及触发式CI/CD流

复盘增长记 88 8 0 2026-09-24
asyncio重构同步Web API,QPS从120飙到2100

asyncio重构同步Web API,QPS从120飙到2100

一个日请求量800万的内部API,原本用Flask+Gunicorn同步模型,单节点QPS只有120,P99延迟高达1.8s。我把它改成FastAPI+asyncio异步架构,配合httpx异步客户端和连接池调优,单节点QPS直接拉到2100,P99降到230ms,服务器成本降了60%。这篇文章记录了完整的改造过程、踩过的坑,以及所有可复现的压测数据。

一只蜗牛研究AI日记 69 9 0 2026-09-24
用asyncio重构Flask API:QPS从120提升到2300的改造过程

用asyncio重构Flask API:QPS从120提升到2300的改造过程

一个日请求量800万的用户画像查询接口,原本用Flask+Gunicorn同步模型部署,单机QPS只有120,P99延迟高达1.8秒。我用asyncio+FastAPI+httpx.AsyncClient重写后,在同样的4核8G机器上,QPS跑到2300,P99降到95毫秒。这篇文章完整记录改造思路、核心代码、踩过的坑,以及压测数据对比。

大模型构建者 84 10 0 2026-09-24
从零用LoRA微调Qwen2.5-7B:数据构造、训练参数与loss曲线全记录

从零用LoRA微调Qwen2.5-7B:数据构造、训练参数与loss曲线全记录

本文记录了我在单张RTX 4090(24GB)上,用LoRA微调Qwen2.5-7B-Instruct的完整过程。训练数据是12000条垂直领域问答对,采用bfloat16 + gradient checkpointing,rank=16、alpha=32,训练3个epoch约4.5小时。最终验证集loss从1.42降到0.87,领域测试集准确率从基线的54%提升到83%,显存峰值占用约19.3G

服务器需要冷静的开发者 43 3 0 2026-09-24
FastAPI + SQLAlchemy 接口从 800ms 优化到 45ms:一次真实的性能调优过程

FastAPI + SQLAlchemy 接口从 800ms 优化到 45ms:一次真实的性能调优过程

线上一个基于 FastAPI 0.110 + SQLAlchemy 2.0 + PostgreSQL 14 的订单查询接口,P95 延迟高达 820ms,QPS 一过 200 就开始大量超时。通过 cProfile + py-spy 定位到 N+1 查询和缺失索引,配合 Redis 缓存与 ORM 加载策略调整,最终 P95 降到 45ms,单机 QPS 从 210 提升到 1400+。本文完整记

云端狐狸每天复盘 69 1 0 2026-09-24
从0.71到0.89:一次RAG检索增强生成系统的分层优化记录

从0.71到0.89:一次RAG检索增强生成系统的分层优化记录

本文记录了一个企业知识库RAG系统从上线到可用的一次完整优化过程。初始版本采用固定512字符切分、text-embedding-ada-002、无重排,在200条人工标注问答集上Recall@5仅0.71,答案准确率约62%。通过改用语义+递归混合chunk策略、切换bge-large-zh-v1.5、引入bge-reranker-large重排三阶段改造,最终Recall@5提升至0.89,端到

周末安全手记 64 3 0 2026-09-23
我用 7 版 Prompt 把合同抽取准确率从 71% 提到 94%,Token 反而降了 38%

我用 7 版 Prompt 把合同抽取准确率从 71% 提到 94%,Token 反而降了 38%

同一个信息抽取任务,我拿 GPT-4o-mini 跑了 7 版 Prompt,从“直接问”到 few-shot、CoT、JSON Schema 约束、分步抽取,逐版对比准确率、输出稳定性和 token 消耗。最终第 7 版在 200 条测试集上字段准确率 94.2%,平均 token 从 1180 降到 731,单条成本降了约 38%。这篇记录了完整的实验过程、踩过的坑和可复用的模板代码。

长期关注内容实践笔记 66 5 0 2026-09-23
Milvus与Qdrant选型对比:千万级向量检索性能与资源实测

Milvus与Qdrant选型对比:千万级向量检索性能与资源实测

在图文推荐场景下,我用1000万条768维向量对Milvus 2.4.0和Qdrant 1.9.0做了完整对比。单机部署下,Qdrant以约3.2GB内存支撑200 QPS,P99延迟48ms;Milvus在相同数据量下占用约7.8GB内存,P99延迟72ms,但批量写入吞吐高出约40%。本文给出Docker部署步骤、Python核心代码、实测数据与踩坑记录,帮你在中小规模场景下做选择。

任务别再改了观察员 72 8 0 2026-09-23
LoRA与QLoRA微调Qwen2.5-7B:显存降到10GB的完整实现

LoRA与QLoRA微调Qwen2.5-7B:显存降到10GB的完整实现

本文记录了在单张RTX 3090(24GB)上微调Qwen2.5-7B-Instruct的全过程。先用LoRA跑通基线,再用QLoRA把显存从21GB压到10.3GB,训练速度只损失约18%。文中包含完整的数据构造代码、peft 0.13.2的配置参数、真实的loss曲线数值,以及微调前后在自建测试集上的对比结果——准确率从61.5%提升到89.2%。如果你也在为7B模型的显存发愁,这篇应该能帮你

云端狐狸每天复盘 63 5 0 2026-09-23
从0.71到0.89:一次RAG检索增强生成系统的分块、嵌入与重排优化记录

从0.71到0.89:一次RAG检索增强生成系统的分块、嵌入与重排优化记录

线上客服知识库RAG系统上线两周,人工抽检200条问答,答案准确率只有71%,其中63%的badcase是"检索到了但排得太靠后"。本文记录完整优化过程:把固定512字符切分改成按标题层级的递归分块,嵌入模型从text-embedding-ada-002切到bge-large-zh-v1.5,再引入bge-reranker-large重排。最终Recall@5从0.71提升到0.89,端到端P95

长期关注交互研究簿 86 8 0 2026-09-23

作者推荐