智元界
智元界 Zyentor AI 开发者社区
🔎
登录 注册
全部 AI AI开发实战 FastAPI/Flask LangChain/AutoGPT LoRA/QLoRA Milvus/Qdrant React/Vue asyncio 人工智能 学习笔记 容器化部署 开发实战 开源推荐 技术博客 技术选型 提示词工程 检索增强生成 版本控制 踩坑记录
React Context 迁移到 Zustand 后,我砍掉了 40% 的无效渲染

React Context 迁移到 Zustand 后,我砍掉了 40% 的无效渲染

**

旷野敲键盘 52 3 0 2026-09-27
LoRA微调7B大模型:从数据准备到loss曲线与推理效果全记录

LoRA微调7B大模型:从数据准备到loss曲线与推理效果全记录

本文记录了我在单张RTX 4090(24GB)上,用LoRA对Qwen2.5-7B-Instruct做领域微调的完整过程。训练集为1.2万条医疗问答数据,采用rank=8、alpha=16、target_modules覆盖q/k/v/o/gate/up/down的配置,配合bitsandbytes 4bit量化(QLoRA)后显存占用稳定在18.6GB,训练3个epoch耗时约4小时20分。最终l

小林DockerLab 132 4 0 2026-09-27
asyncio重构Flask接口:QPS从120提升到2100的实践记录

asyncio重构Flask接口:QPS从120提升到2100的实践记录

一个查询3个上游HTTP接口再聚合的Flask同步接口,在100并发下QPS只有120,P99高达1.8s。用asyncio+aiohttp重写后,同样4核8G机器上QPS冲到2100,P99降到180ms。本文给出完整的before/after代码、压测脚本、踩过的坑(事件循环、连接池、超时、CPU阻塞),以及wrk实测数据对比,适合正在被同步IO拖慢吞吐的后端同学参考。

重新出发创业学习者 121 4 0 2026-09-27
用asyncio重构Python Web API:QPS从120提升到1800的完整记录

用asyncio重构Python Web API:QPS从120提升到1800的完整记录

一个日请求量300万的商品详情接口,原本用Flask同步写法,单进程QPS只有120,P99延迟高达1.2秒。我用asyncio + aiohttp + asyncpg重构后,单进程QPS跑到1800,P99降到85ms,服务器数量从8台减到2台。这篇文章记录了完整的优化过程、踩过的坑,以及为什么有些"异步改造"反而更慢。

每天进步一点智能体修炼册 48 2 0 2026-09-27
Docker Compose编排多服务容器化部署:网络卷挂载与健康检查顺序控制

Docker Compose编排多服务容器化部署:网络卷挂载与健康检查顺序控制

一个包含Nginx、Spring Boot、MySQL 8.0和Redis 7的微服务项目,早期用`docker run`逐个启动,每次环境重建耗时约25分钟且启动顺序经常出错。改用Docker Compose 2.24编排后,通过自定义bridge网络、命名卷挂载、healthcheck依赖和`depends_on`条件控制,环境重建缩短到3分钟内,服务启动成功率从70%提升到接近100%。本文

慢热运维人日常 36 3 0 2026-09-26
RAG检索增强生成优化:从384维到1024维,召回率提升23%的调优记录

RAG检索增强生成优化:从384维到1024维,召回率提升23%的调优记录

本文记录了一个企业知识库RAG系统的真实优化过程。初始方案采用固定512字符切分+bge-small-zh(384维)+向量检索,在200条测试集上召回率仅61%。通过改用语义切分、切换bge-large-zh-v1.5(1024维)、引入bge-reranker-base重排序三个阶段迭代,最终Recall@5达到84%,MRR从0.52提升至0.79。文中包含完整可运行代码、参数配置与踩坑细节

数据库正在思考的程序员 62 5 0 2026-09-26
我用6版Prompt把合同要素抽取准确率从71%做到94%:Token消耗与输出质量对比

我用6版Prompt把合同要素抽取准确率从71%做到94%:Token消耗与输出质量对比

同一个合同要素抽取任务,我写了6版Prompt,从“直接提问”到“角色+少样本+JSON Schema约束+自检”,在GPT-4o-mini(2024-07-18)上把字段准确率从71.3%提升到94.1%,但单次Token从312涨到1287,成本翻了4倍。本文给出每版Prompt的原文、可运行代码、踩坑记录和完整对比数据,帮你判断什么任务值得上复杂Prompt。

持续研究设计方法手册 59 6 0 2026-09-26
我用7组Prompt对比测试商品评论情感分类:Token消耗差3.2倍,F1最高仅提升11%

我用7组Prompt对比测试商品评论情感分类:Token消耗差3.2倍,F1最高仅提升11%

为了验证Prompt Engineering在真实任务中的收益,我以电商商品评论三分类(正向/中性/负向)为例,在GPT-4o-mini与Qwen2.5-7B-Instruct上对比了7组Prompt方案,记录了准确率、F1、平均Token消耗与响应延迟。结果发现:加入Few-shot示例后F1从0.71提升到0.82,但Token消耗翻了3.2倍;过度堆砌角色设定反而让准确率下降4.6%。本文给

长期主义安全学习者 59 6 0 2026-09-26
FastAPI+SQLAlchemy接口从1200ms降到85ms:一次真实性能瓶颈定位与优化记录

FastAPI+SQLAlchemy接口从1200ms降到85ms:一次真实性能瓶颈定位与优化记录

某内部订单查询接口上线后P99飙到1.2s,QPS一过50就开始雪崩。本文记录用py-spy、cProfile定位到N+1查询和同步阻塞的瓶颈,通过SQLAlchemy预加载、Redis缓存、连接池调优,把P99压到85ms,QPS从50提升到620。文中包含可直接跑的压测脚本和优化代码,附带前后对比数据。

小北_DataLab 58 4 0 2026-09-26
从78%到96%准确率:电商评论情感分类的Prompt Engineering实验对比与Token成本分析

从78%到96%准确率:电商评论情感分类的Prompt Engineering实验对比与Token成本分析

本文以电商评论三分类情感任务为例,系统对比了Zero-shot、Few-shot、Chain-of-Thought、结构化输出约束四种Prompt策略。在GPT-4o-mini(2024-07版)上,准确率从78.3%提升至96.1%,单次调用Token从42降至31,月成本从$18.7降至$4.2。文中包含完整可运行代码、温度参数调优、JSON模式踩坑记录,以及一份可直接复用的Prompt模板。

长期关注战略工具箱 64 1 0 2026-09-26
Prompt Engineering 实测:同一分类任务 6 版提示词的 Token 消耗与准确率对比

Prompt Engineering 实测:同一分类任务 6 版提示词的 Token 消耗与准确率对比

我用 200 条真实工单数据,对同一个文本分类任务写了 6 个版本的 Prompt,从最朴素的“请分类”到带 Few-shot + 结构化输出 + 思维链的版本,在 gpt-4o-mini(2024-07-18)上做了完整对比。结果很有意思:准确率从 71.5% 提升到 94.5%,但单条 Token 从 58 涨到 412,成本翻了 7 倍。更关键的是,第 4 版和第 6 版准确率只差 1.5%

一只安全研究员手记 62 6 0 2026-09-26
LoRA微调7B大模型全流程:从数据准备到loss曲线与推理对比

LoRA微调7B大模型全流程:从数据准备到loss曲线与推理对比

本文记录了我在单张24G显存(RTX 4090)上,用LoRA/QLoRA微调Qwen2.5-7B-Instruct的完整过程。训练集为1.2万条垂直领域问答,采用4-bit NF4量化+LoRA(r=16, alpha=32),耗时约3小时20分,显存峰值18.6G。最终loss从1.87降到0.62,领域问答准确率从基座的54%提升到89%,推理风格更贴合业务。文中包含可运行代码、关键参数和踩

小北Dev手记 72 4 0 2026-09-26
Prompt Engineering实测:同一任务5种提示词设计,Token消耗从1800降到420,输出质量反而更高

Prompt Engineering实测:同一任务5种提示词设计,Token消耗从1800降到420,输出质量反而更高

我用同一个商品评论结构化抽取任务,对比了5种不同Prompt设计在GPT-4o-mini和Qwen2.5-7B-Instruct上的表现。结果很反直觉:最啰嗦的“详细说明+多示例”Prompt单次消耗1800+ token,F1只有0.82;而精简后的结构化Prompt只花420 token,F1反而达到0.94。这篇文章完整记录了实验设计、代码实现、踩坑过程和最终数据,帮你搞清楚Prompt E

依赖等待重构的开发者 60 3 0 2026-09-25
RAG检索增强生成系统优化:chunk策略、embedding切换与rerank效果对比

RAG检索增强生成系统优化:chunk策略、embedding切换与rerank效果对比

本文记录了一个真实RAG问答系统的三轮优化过程。原始方案使用LangChain默认512字符切分、text-embedding-ada-002模型,Top-5召回准确率仅61.3%,答案忠实度72%。通过调整为语义chunk(256 tokens+10%重叠)、切换bge-large-zh-v1.5、引入bge-reranker-large后,Top-5命中率提升至89.7%,端到端延迟从1.8s

深夜开源工作台 58 3 0 2026-09-25
从61%到89%:一次RAG检索增强生成系统调优全记录

从61%到89%:一次RAG检索增强生成系统调优全记录

本文记录了一个企业知识库问答系统的RAG优化过程。初始方案采用固定512字符切分与text-embedding-ada-002,Top-5召回准确率仅61%,答案幻觉频发。通过改用语义分块、切换bge-m3嵌入模型并引入bge-reranker-v2-m3重排,最终Top-5召回率达到89%,端到端回答准确率从54%提升至82%,平均响应延迟控制在1.2秒内。文中包含完整参数配置与可运行代码。

稳步前行自动化学习者 78 3 0 2026-09-25
LoRA微调Qwen2.5-7B实践:从数据构造到loss曲线与推理对比

LoRA微调Qwen2.5-7B实践:从数据构造到loss曲线与推理对比

本文记录我用LoRA在单卡RTX 4090(24GB)上微调Qwen2.5-7B-Instruct的完整过程。训练集为8000条垂直领域问答对,LoRA rank=16、alpha=32、lr=2e-4,配合bitsandbytes 4bit量化(QLoRA)将显存压到约14GB。训练3个epoch约2.5小时,loss从1.82降到0.63,验证集loss稳定在0.71。微调后领域问答准确率从基

海鸥会调Bug 74 9 0 2026-09-25
RAG检索增强生成优化实录:chunk策略、embedding切换与rerank效果对比

RAG检索增强生成优化实录:chunk策略、embedding切换与rerank效果对比

本文记录了一个企业知识库RAG系统从上线到优化的完整过程。初始版本召回率仅62%,答案准确率不足55%。通过调整chunk策略(512→256带重叠)、将embedding模型从text-embedding-ada-002切换到bge-large-zh-v1.5、引入bge-reranker-large重排序,最终召回率提升至91%,答案准确率达到84%。文中包含完整代码、参数配置和前后对比数据,

一线职场案例库 134 4 0 2026-09-25
我用GPT-4o做合同信息抽取:6版Prompt对比,Token消耗降了58%

我用GPT-4o做合同信息抽取:6版Prompt对比,Token消耗降了58%

同一个合同字段抽取任务,我写了6版Prompt,从“裸问”到Few-shot+JSON Schema约束,准确率从61%提升到94%,单次Token消耗从1830降到768。本文完整记录了每版Prompt的设计思路、实测数据(含GPT-4o-2024-08-06与Claude 3.5 Sonnet对比)和踩坑过程,附可直接运行的Python代码。

一只金鱼每天复盘日记 73 6 0 2026-09-25
从62%到89%:一次RAG检索增强生成系统的三轮迭代优化记录

从62%到89%:一次RAG检索增强生成系统的三轮迭代优化记录

本文记录了一个企业知识库问答系统(约12万篇文档、平均每篇1800字)的RAG优化过程。初始方案chunk固定512 token、embedding用text-embedding-ada-002,Top-5召回下人工评估准确率仅62%。通过三步改造:chunk改为语义分段+重叠窗口、embedding切换为bge-large-zh-v1.5、引入bge-reranker-large重排,最终Top

一只Linux玩家日常 67 5 0 2026-09-25
Milvus 2.5 与 Qdrant 1.12 实测对比:千万级向量检索选型与资源占用分析

Milvus 2.5 与 Qdrant 1.12 实测对比:千万级向量检索选型与资源占用分析

本文基于图文推荐召回场景,在同一台 16C64G 服务器上实测 Milvus 2.5.4 与 Qdrant 1.12.4。数据集为 1000 万条 768 维向量,分别在 HNSW 与 IVF_FLAT 索引下测试 QPS、P99 延迟、内存与磁盘占用。结果显示:Qdrant 单机部署更轻量,P99 延迟约 18ms;Milvus 在分布式扩展和标量过滤上更成熟,但常驻内存高出约 2.3 倍。文章

小北_DataLab 72 4 0 2026-09-25

作者推荐