下载中心
AI 开发工具、插件、模型、模板一站式下载
vLLM
SDK 安装包高性能 LLM 推理引擎,支持 PagedAttention、连续批处理、量化推理,生产级部署首选
0.7.0
14
0
推理引擎
LLM部署
高性能
unsloth
SDK 安装包大模型微调加速框架,训练速度提升 2x,显存节省 50%,支持 Llama、Mistral、Qwen 等主流模型
2024.12
14
0
微调
LoRA
QLoRA
LangChain
SDK 安装包LLM 应用开发框架
1.3.2
118.4 KB
28
0
framework
llm
rag
LlamaIndex
SDK 安装包LLM 数据框架
0.14.22
6.9 KB
25
0
rag
data-framework
Langfuse
SDK 安装包开源 LLM 可观测平台
3.31.0
29.6 KB
32
0
observability
monitoring