最近在搞本地知识库，把Qwen2.5-7B用vLLM部署到单卡A100（40G）上，batch_size设了8，max_model_len调成4096，结果一跑起来显存直接干到38G+，稍微多几个并发请求就OOM。我看官方文档说7B模型int8只需要十几G，但我用默认的--dtype auto加载，好像还是fp16？另外gpu_memory_utilization我设了0.9，是不是太高了？有没有老哥分享下生产环境的参数组合？或者是我vLLM版本（0.6.3）太老的问题？提前谢谢了，刚接触推理优化，好多概念还在摸索中。