DeepSeek-V3本地部署:显存要求与商用许可
DeepSeek-V3(671B,上下文 131072 tokens):FP16 显存约 1,342GB、INT8 约 671GB、INT4 约 336GB;许可:DeepSeek Model License(自建许可);适配 vLLM/SGLang/MindIE;权重要从官方仓库取用,参数以官方资料为准。
许可与商用条件
| 许可 | DeepSeek Model License(自建许可) |
| 权重许可 | DeepSeek Model License(自建许可) |
| 代码许可 | MIT |
| 商用条件 | 允许商用,但须满足许可条件:随附许可文本、保留版权与许可声明;不得使用本模型或其输出去训练、蒸馏其他同类模型;不得规避许可限制。具体条件以官方原文为准 |
| 训练/微调限制 | 不得使用模型输出去训练或改进其他大语言模型(原文口径需逐条确认) |
| 禁止用途 | 违法用途、侵权用途、生成违法有害内容、未经告知的监控或欺诈用途等(详见原文禁止用途条款) |
| 适用辖区 | 以官方原文为准(未逐条核验地区性条款) |
| 再分发与衍生 | 再分发须随附完整许可文本;不得移除版权声明 允许创建衍生模型,但衍生模型须遵守同一许可的行为限制 |
| 署名要求 | 需展示「须保留版权与许可声明,并在再分发/衍生中注明来源(推荐注明 “DeepSeek” 与许可名称)」 |
| 许可原文 | 官方许可文本(LIC-DS-V3-001) |
许可结论以官方许可文本为准,并随版本更新变化;商用前建议逐版本复核。
显存与硬件门槛
| 项目 | 数值 |
|---|---|
| 参数量 | 671B(激活 37B) |
| FP16 显存(约) | 1342.00 GB |
| INT8 显存(约) | 671.00 GB |
| INT4 显存(约) | 335.50 GB |
| 上下文长度 | 131072 tokens |
| 权重体积(约) | 671.00 GB |
| 引擎适配 | vLLM / SGLang / MindIE / TensorRT-LLM |
显存为权重占用估算口径(FP16 约 2GB/十亿参数、INT8 约 1GB、INT4 约 0.5GB),不含 KV 缓存与并发开销;与 显存与并发估算器同一口径,按并发与上下文长度可在估算器里复算。
量化与实测口径:官方权重为 BF16;社区量化(AWQ/GPTQ/FP8)成熟度各异,须以实测精度与显存为准
典型企业落地场景
可直接落地的高频场景:
- 内部知识问答
- 长文档要点提取
- 文书草稿
- 合规辅助(人工复核)
通用能力较强、支持 128K 上下文,适合私有化知识库与文档处理;多卡部署需按精度与并发实测
不适用:MoE 架构对显存与互联要求高,不适合低配单机;专业结论必须人工复核,不得表述为法律/财税/金融意见
能力评测
官方技术报告披露的公开基准成绩,仅代表特定测试条件,不等同于客户场景表现
评测口径由厂商提供,未经本站第三方复测;实际效果以自有业务测试集为准。
官方下载源
官方页面:https://www.deepseek.com
权重下载:https://www.deepseek.com
本站不托管模型权重;下载与使用受官方许可约束。内网离线环境可由部署服务协助做内网镜像与哈希校验。
来源与核验:公开资料整理(含官方许可说明),采购前须逐版本核验许可原文
※ 以上参数来自官方公开资料与本站核验记录,不构成对具体项目效果的承诺;以官方许可文本与环境实测为准。