MODELS · 临界智能
GLM-4-9B-Chat本地部署:显存要求与商用许可
GLM-4-9B-Chat(9B,上下文 131072 tokens):FP16 显存约 18GB、INT8 约 9GB、INT4 约 5GB;许可:GLM-4 License(自建许可);适配 vLLM/SGLang/MindIE;权重要从官方仓库取用,参数以官方资料为准。
许可与商用条件
| 许可 | GLM-4 License(自建许可) |
| 权重许可 | GLM-4 License(自建许可) |
| 代码许可 | Apache-2.0(代码仓库,须逐项核验) |
| 商用条件 | 允许商用,但须在用户协议或产品界面中声明使用了 GLM 模型并遵守许可条款;不得移除声明;具体条件以官方原文为准 |
| 训练/微调限制 | 条款涉及使用输出进行训练的约束,须以官方原文逐条确认 |
| 禁止用途 | 违法用途、侵权用途、生成违法有害内容等 |
| 适用辖区 | 以官方原文为准 |
| 再分发与衍生 | 再分发须随附许可文本并保留声明 衍生模型须保留声明,命名要求以原文为准 |
| 署名要求 | 需展示「须在产品或用户协议中注明使用了 GLM 模型(署名要求以原文为准)」 |
| 许可原文 | 官方许可文本(LIC-GLM4-9B-001) |
许可结论以官方许可文本为准,并随版本更新变化;商用前建议逐版本复核。
显存与硬件门槛
| 项目 | 数值 |
|---|---|
| 参数量 | 9B(激活 9B) |
| FP16 显存(约) | 18.00 GB |
| INT8 显存(约) | 9.00 GB |
| INT4 显存(约) | 4.50 GB |
| 上下文长度 | 131072 tokens |
| 权重体积(约) | 9.00 GB |
| 引擎适配 | vLLM / SGLang / MindIE |
显存为权重占用估算口径(FP16 约 2GB/十亿参数、INT8 约 1GB、INT4 约 0.5GB),不含 KV 缓存与并发开销;与 显存与并发估算器同一口径,按并发与上下文长度可在估算器里复算。
量化与实测口径:INT4 量化后可在单张 24GB 卡运行中小并发
典型企业落地场景
可直接落地的高频场景:
- 长文档处理
- 知识库问答
- 要点提取
上下文长、显存门槛低,适合长文档与知识库场景试点
不适用:长上下文下的显存与吞吐需实测;许可含使用声明与署名要求,须逐版本核验
能力评测
官方公开基准成绩,长上下文表现与推理设置强相关
评测口径由厂商提供,未经本站第三方复测;实际效果以自有业务测试集为准。
官方下载源
官方页面:https://www.zhipuai.cn
权重下载:https://github.com/THUDM/GLM-4
本站不托管模型权重;下载与使用受官方许可约束。内网离线环境可由部署服务协助做内网镜像与哈希校验。
来源与核验:公开资料整理
※ 以上参数来自官方公开资料与本站核验记录,不构成对具体项目效果的承诺;以官方许可文本与环境实测为准。