智元界
智元界 Zyentor AI 开发者社区
🔎
登录 注册
全部 AI AI开发实战 FastAPI/Flask LangChain/AutoGPT LoRA/QLoRA Milvus/Qdrant React/Vue asyncio 人工智能 学习笔记 容器化部署 开发实战 开源推荐 技术博客 技术选型 提示词工程 检索增强生成 版本控制 踩坑记录
Milvus 2.4 与 Qdrant 1.9 实测对比:千万级向量检索该选谁

Milvus 2.4 与 Qdrant 1.9 实测对比:千万级向量检索该选谁

在图文去重业务中,我用 1000 万条 768 维向量,在同一台 16C64G 机器上分别部署 Milvus 2.4.1 和 Qdrant 1.9.2,实测 HNSW 索引下的查询延迟、QPS、内存占用和落盘体积。结果 Qdrant 单机内存比 Milvus 低 42%,P99 延迟低 18ms,但 Milvus 的分布式扩展和过滤能力更成熟。本文给出完整部署脚本、压测代码和选型结论。

实战派大模型工具箱 58 3 0 29天前
从零手写AI Agent:工具定义、记忆管理与循环控制实现

从零手写AI Agent:工具定义、记忆管理与循环控制实现

LangChain和AutoGPT虽然强大,但直接上手容易“只会调包不会造轮子”。本文用约200行Python代码,从零实现一个可运行的AI Agent,支持工具调用、短期记忆、错误重试与最大步数循环控制。基于OpenAI GPT-4o-mini与Python 3.11,单次对话平均响应1.8秒,工具调用成功率从68%提升到94%。适合想真正理解Agent内部机制的开发者。

文档需要咖啡的开发者 78 4 0 29天前
Git Flow与Trunk-Based混合分支策略落地:基于GitLab 16.9与Jenkins 2.452的CI/CD配置

Git Flow与Trunk-Based混合分支策略落地:基于GitLab 16.9与Jenkins 2.452的CI/CD配置

团队从5人扩展到18人后,直接push到master导致每周平均3.2次线上冲突,回滚耗时从5分钟飙到40分钟。我们最终落地了一套混合分支策略:main只接受MR、release分支冻结、feature分支强制squash,配合GitLab 16.9的push rules和Jenkins 2.452多分支流水线,把平均合并时间从26小时压缩到4.5小时,线上事故回滚降到8分钟内。本文把完整的分支模

缓存拒绝内耗工程日常 77 6 0 29天前
从0.71到0.89:一次RAG检索增强生成系统全链路优化记录

从0.71到0.89:一次RAG检索增强生成系统全链路优化记录

线上知识库问答系统上线三个月,人工抽检准确率长期卡在71%左右,用户投诉集中在"答非所问"和"漏掉关键条款"。我用两周时间,围绕chunk切分策略、embedding模型切换和rerank引入三个环节做了一轮系统优化,将Top-3命中率从0.71提升到0.89,答案忠实度从0.68提升到0.85,P95延迟仅增加180ms。本文完整记录了每一步的配置参数、代码实现和踩坑细节,包含可直接运行的代码块

低调的AI工程师日常 50 2 0 29天前
LoRA微调7B模型全流程:从数据准备到Loss收敛与推理对比

LoRA微调7B模型全流程:从数据准备到Loss收敛与推理对比

本文记录了一次真实的LLM微调实践:在单张RTX 4090(24GB显存)上,使用LoRA对Qwen2.5-7B-Instruct进行指令微调。训练数据为8.6k条中文客服对话,采用4-bit量化+LoRA(即QLoRA),rank=16,alpha=32,学习率2e-4,3个epoch。训练耗时约2小时40分钟,最终loss从1.83降至0.62。推理对比显示,微调后模型在领域问答上的准确率从5

发布正在思考的程序员 54 3 0 29天前
Milvus 2.4 与 Qdrant 1.9 向量库选型对比:千万级商品检索部署与性能实测

Milvus 2.4 与 Qdrant 1.9 向量库选型对比:千万级商品检索部署与性能实测

团队要把 1200 万条商品向量(768 维)从 Elasticsearch 迁到专用向量库,候选是 Milvus 2.4.1 和 Qdrant 1.9.2。我在 8C32G 单机和 3 节点集群上分别跑了部署、写入、召回率和 P99 延迟测试:Qdrant 单机 QPS 高出约 42%,但 Milvus 在 3 节点横向扩展后反超,内存占用也低 30%。本文给出完整部署脚本、压测代码和选型结论。

阿航_VueLab 80 4 0 29天前
React 18 与 Vue 3 项目从 Context/Props 迁移到 Zustand/Pinia 的实践记录

React 18 与 Vue 3 项目从 Context/Props 迁移到 Zustand/Pinia 的实践记录

我们有一个中型后台项目,React 18.2 + Vue 3.3 双技术栈并行维护,原先全局状态全靠 Props 透传和 Context/Provide。随着模块增加到 40+ 页面,出现“改一个筛选条件触发 200+ 组件重渲染”“Props 链最深 7 层”等问题。本文记录我们如何分别用 Zustand 4.4 和 Pinia 2.1 替换原有方案,包含方案对比、迁移步骤、真实性能数据(渲染次

一路升级服务器成长记 65 4 0 2026-09-29
FastAPI接口从800ms降到45ms:一次真实性能瓶颈定位与优化记录

FastAPI接口从800ms降到45ms:一次真实性能瓶颈定位与优化记录

线上一个FastAPI查询接口P99响应时间800ms,QPS一过50就开始堆积。本文用py-spy和cProfile定位到瓶颈是一段N+1的SQLAlchemy查询加上缺失的索引,配合Redis缓存和连接池调优后,P99降到45ms,单机QPS从50提升到620。文中包含完整的profiling过程、优化代码和Locust压测数据对比,适合正在被接口慢查询折磨的后端同学。

阿航_VueLab 71 2 0 2026-09-28
用LoRA与QLoRA微调Qwen2.5-7B:从数据构造到loss曲线的完整记录

用LoRA与QLoRA微调Qwen2.5-7B:从数据构造到loss曲线的完整记录

本文记录了一次真实的7B模型微调过程:在单张RTX 4090 24GB上,用QLoRA(4-bit NF4)微调Qwen2.5-7B-Instruct,训练集为8600条客服意图分类与改写样本。LoRA秩取16、alpha取32,学习率2e-4,3个epoch耗时约2小时40分钟,显存峰值19.3GB。训练loss从初始1.87降到0.42,验证集准确率从基线的61.3%提升到92.7%。文中给出

暮色漫游集 61 3 0 2026-09-28
FastAPI+Flask接口从1.2s降到86ms:一次SQLAlchemy查询与Redis缓存的性能调优记录

FastAPI+Flask接口从1.2s降到86ms:一次SQLAlchemy查询与Redis缓存的性能调优记录

线上一个FastAPI接口P95响应1.2s,QPS压到80就开始超时。用py-spy和SQLAlchemy的echo日志定位到N+1查询和缺失索引,配合Redis缓存热点数据,最终P95降到86ms,QPS提升到620。本文记录完整的profiling过程、索引与查询改写、缓存策略设计,以及Locust压测的对比数据,涉及FastAPI 0.110、SQLAlchemy 2.0、Redis 7.

一只鲸鱼会做产品 54 3 0 2026-09-28
LoRA微调7B大模型全记录:从数据准备到推理效果对比的完整实践

LoRA微调7B大模型全记录:从数据准备到推理效果对比的完整实践

本文记录了在单张24GB显存显卡上,使用LoRA与QLoRA技术微调Qwen2.5-7B-Instruct的完整过程。训练数据为12000条垂直领域问答对,配置r=16、alpha=32、dropout=0.05,配合4-bit NF4量化。最终QLoRA版本显存占用仅9.8GB,训练3个epoch耗时约4.5小时,loss从2.31降至0.87。对比微调前后推理效果,领域问题准确率从52%提升至

认真成长云原生成长记 37 1 0 2026-09-28
Milvus与Qdrant选型实录:千万级向量检索性能与资源占用对比

Milvus与Qdrant选型实录:千万级向量检索性能与资源占用对比

在图文推荐场景下,我们面对1000万条768维向量、QPS 200、P99延迟要求低于50ms的需求,对Milvus 2.4.1和Qdrant 1.9.0进行了同机部署压测。实测Qdrant在单节点8核32G环境下内存占用低约40%,Milvus在批量写入和分布式扩展上更稳。本文给出完整部署脚本、Python查询代码、踩坑记录与最终选型结论,帮你少走三天弯路。

飞鸟偶尔重构 104 5 0 2026-09-28
基于Git Flow与Trunk-Based的分支策略、Code Review及CI/CD集成配置详解**

基于Git Flow与Trunk-Based的分支策略、Code Review及CI/CD集成配置详解**

**

金鱼研究AI 60 5 0 2026-09-28
RAG检索增强生成优化实录:从62%到89%召回率的chunk、Embedding与Rerank调优

RAG检索增强生成优化实录:从62%到89%召回率的chunk、Embedding与Rerank调优

本文记录了一个企业知识库RAG系统(检索增强生成)的真实优化过程。初始版本在2000条FAQ数据上召回率仅62%,回答准确率不足55%。通过将固定512字符切分改为语义+递归混合chunk策略、把text-embedding-ada-002切换为bge-large-zh-v1.5、并引入bge-reranker-large重排序,最终Top-3召回率提升至89%,端到端回答准确率达84%,平均响应

云端企鹅会做产品 71 7 0 2026-09-28
从0.62到0.89:一次RAG检索增强生成系统的chunk、embedding与rerank优化记录

从0.62到0.89:一次RAG检索增强生成系统的chunk、embedding与rerank优化记录

本文记录了一个企业知识库RAG系统(检索增强生成)的真实调优过程。原始方案采用固定512字符切分 + text-embedding-ada-002 + 无重排,Top-5召回率仅0.62,答案准确率约58%。通过将chunk改为语义切分(256/64重叠)、切换bge-large-zh-v1.5、引入bge-reranker-large后,Top-5召回率提升至0.89,端到端准确率达81%,P9

移动开发学习簿 233 6 0 2026-09-28
FastAPI+Flask双框架下API性能从1.2s降到180ms的调优记录

FastAPI+Flask双框架下API性能从1.2s降到180ms的调优记录

一个日请求量约200万的订单查询API,P99响应时间一度飙到1.2s,数据库CPU长期80%以上。本文记录我用py-spy、cProfile定位到N+1查询和缺失缓存两个瓶颈,并通过SQLAlchemy查询重构、Redis多级缓存、FastAPI异步化改造,把P99压到180ms、QPS从320提升到1450的完整过程,含可复现代码和wrk压测数据对比。

边学边做全栈学习者 74 7 0 2026-09-28
从0.63到0.89:一次RAG系统检索增强生成全链路优化实录

从0.63到0.89:一次RAG系统检索增强生成全链路优化实录

线上RAG系统上线三个月后,答案准确率始终卡在63%,用户投诉不断。本文记录了一次完整的检索增强生成优化过程:从固定512字符切分改为语义分块,embedding从text-embedding-ada-002切换到bge-large-zh-v1.5,并引入bge-reranker-large做重排序。最终Top-5召回率从0.63提升至0.89,端到端响应时间仅增加180ms。文中包含完整代码与踩

实战派推理加速炼金室 53 2 0 2026-09-27
RAG检索增强生成优化实录:从62%到89%准确率的Chunk、Embedding与Rerank调优**

RAG检索增强生成优化实录:从62%到89%准确率的Chunk、Embedding与Rerank调优**

** 本文记录了一个企业知识库RAG系统(检索增强生成)的真实优化过程。初始方案在2000条测试集上召回准确率仅62%,通过调整chunk策略(512→256+重叠64)、切换embedding模型(text-embedding-ada-002→bge-large-zh-v1.5)、引入bge-reranker-large重排序,最终Top-5准确率提升至89%,端到端回答可用率从58%升至87%

清晨煮茶记 115 1 0 2026-09-27
从0.63到0.89:一次RAG检索增强生成系统的三段式调优记录

从0.63到0.89:一次RAG检索增强生成系统的三段式调优记录

线上知识库问答的召回率长期卡在0.63,答案里经常混入无关条款。本文记录了对一个真实RAG系统的三轮优化:把固定512字符切分改为语义+递归混合chunk,召回率提升到0.74;将text-embedding-ada-002切换为bge-large-zh-v1.5并做指令前缀适配,提升到0.81;最后引入bge-reranker-large做二阶段重排,MRR从0.58涨到0.79,端到端准确率稳

脚本保持在线的开发者 68 5 0 2026-09-27
FastAPI+Flask双栈API性能调优:从1200ms到85ms的Profile、SQL与缓存改造

FastAPI+Flask双栈API性能调优:从1200ms到85ms的Profile、SQL与缓存改造

某内部商品查询服务上线后P99飙到1200ms,QPS压到300就开始大量超时。本文用cProfile+py-spy定位到N+1查询和同步阻塞是主因,通过SQLAlchemy批量查询、Redis两级缓存和FastAPI异步改造,把P99压到85ms,QPS从300提升到2400。文中给出完整可运行代码和wrk压测对比数据,环境为Python 3.11 + FastAPI 0.110 + Flask

队列正在加载求生记 56 9 0 2026-09-27

作者推荐