MODELS · 临界智能
Qwen2.5-Coder-32B-Instruct本地部署:显存要求与商用许可
Qwen2.5-Coder-32B-Instruct(32B,上下文 131072 tokens):FP16 显存约 64GB、INT8 约 32GB、INT4 约 16GB;许可:Apache-2.0;适配 vLLM/Transformers/Ollama;权重要从官方仓库取用,参数以官方资料为准。
许可与商用条件
| 许可 | Apache-2.0 |
许可结论以官方许可文本为准,并随版本更新变化;商用前建议逐版本复核。
显存与硬件门槛
| 项目 | 数值 |
|---|---|
| 参数量 | 32B(激活 32B) |
| FP16 显存(约) | 64.00 GB |
| INT8 显存(约) | 32.00 GB |
| INT4 显存(约) | 16.00 GB |
| 上下文长度 | 131072 tokens |
| 权重体积(约) | 32.00 GB |
| 引擎适配 | vLLM / Transformers / Ollama |
显存为权重占用估算口径(FP16 约 2GB/十亿参数、INT8 约 1GB、INT4 约 0.5GB),不含 KV 缓存与并发开销;与 显存与并发估算器同一口径,按并发与上下文长度可在估算器里复算。
量化与实测口径:官方 AWQ/GPTQ/GGUF 量化
典型企业落地场景
Qwen2.5 代码旗舰,代码生成/补全/修复成熟稳定,IDE 插件生态完善。
官方下载源
官方页面:https://qwen.ai
权重下载:https://modelscope.cn/models/Qwen/Qwen2.5-Coder-32B-Instruct
本站不托管模型权重;下载与使用受官方许可约束。内网离线环境可由部署服务协助做内网镜像与哈希校验。
※ 以上参数来自官方公开资料与本站核验记录,不构成对具体项目效果的承诺;以官方许可文本与环境实测为准。