OnvergeAI·临界智能
MODELS · 临界智能

OnvergeAi-H2-27b本地部署:显存要求与商用许可

OnvergeAi-H2-27b(27B,上下文 262144 tokens):FP16 显存约 54GB、INT8 约 27GB、INT4 约 14GB;许可:闭源 · 授权使用;适配 vLLM/llama.cpp/Ollama;闭源不提供公开权重下载,按授权方式获取,参数以厂商资料为准。

许可与商用条件

许可闭源 · 授权使用
权重许可闭源模型 · 商业授权使用(OnvergeAI 自有权重,不公开分发)
代码许可闭源授权交付,不提供源码
商用条件闭源模型,无公开权重下载;商用须向 OnvergeAI 取得书面授权,授权范围、部署方式、并发规模与终端用户数量以授权协议约定为准;未取得授权不得复制、转授权或再分发权重。
训练/微调限制授权范围内允许 LoRA、QLoRA 与全参微调;训练数据与微调产物归属须在授权协议中书面约定。
禁止用途违法用途、侵权用途、生成违法有害内容、无资质对外提供法律服务或出具审计意见等。
适用辖区以授权协议约定为准(当前客户范围:中国大陆及港澳台)
再分发与衍生禁止再分发权重与衍生权重;仅在授权范围内以服务或私有化交付形式提供终端用户使用。
微调衍生模型的归属与可用范围以授权协议约定为准,不得以自研名义对外分发。
署名要求需展示「产品界面或用户协议中注明由 OnvergeAI OnvergeAi-H2-27b 提供财务合规领域模型能力」
许可原文官方许可文本(LIC-OV-H2-001)

许可结论以官方许可文本为准,并随版本更新变化;商用前建议逐版本复核。

显存与硬件门槛

项目数值
参数量27B(激活 27B)
FP16 显存(约)54.00 GB
INT8 显存(约)27.00 GB
INT4 显存(约)13.50 GB
上下文长度262144 tokens
权重体积(约)27.00 GB
引擎适配vLLM / llama.cpp / Ollama

显存为权重占用估算口径(FP16 约 2GB/十亿参数、INT8 约 1GB、INT4 约 0.5GB),不含 KV 缓存与并发开销;与 显存与并发估算器同一口径,按并发与上下文长度可在估算器里复算。

量化与实测口径:FP16/BF16 约 54GB;FP8 约 27GB;Q8 约 28GB;Q4 约 15GB

典型企业落地场景

可直接落地的高频场景:

  • 合同扫描与 OCR 识别
  • 条款抽取与合规审查
  • 财税与法务知识库问答
  • 员工培训与考核

基于 Qwen3.8-27B 重新训练,面向财务与合规场景优化:合同扫描、OCR 识别、条款抽取、合规审查、知识库问答与员工培训六类任务的准确率提升至 96.7%,推理速度较源模型提升 33%。

不适用:代码生成与开放域创作非其强项;对外法律意见、税务申报直连等场景仍需人工或专用系统承接。

能力评测

财务与合规六类任务(合同扫描、OCR 识别、条款抽取、合规审查、知识库问答、员工培训)准确率 96.7%;推理速度较 Qwen3.8-27B 提升 33%。

评测口径由厂商提供,未经本站第三方复测;实际效果以自有业务测试集为准。

官方来源与授权获取

官方页面:https://www.onvergeai.com
权重下载:闭源模型,不提供公开权重下载;商业授权与部署交付请联系官方

本站不托管模型权重;闭源模型以授权使用方式交付,授权范围、部署方式与并发规模以授权协议约定为准。

来源与核验:自研模型,评测为公司内部测试口径;与 Qwen3.8-27B 同环境对比

申请商业授权与报价

授权与费用说明

由于训练的底座模型、训练数据规模、训练能力与微调周期各不相同,同类模型的价格无法准确估量。如需准确价格,请联系客服沟通具体需求、部署方式与并发规模。

报价通常包含模型授权、私有化部署与运维支持三部分;硬件采购成本可用部署预算估算器单独测算。

联系客服获取准确价格

用这个模型做私有化部署?

按参数量与并发估算硬件预算,或先做许可与 PoC 评估。

按此模型估算部署预算 模型选型服务 硬件选型与代采

※ 以上参数来自官方公开资料与本站核验记录,不构成对具体项目效果的承诺;以官方许可文本与环境实测为准。

先做一次 30 分钟的需求梳理

说出你的行业、数据边界与预算区间,我们在 1 个工作日内给出可验证的下一步。