FAQ · 临界智能
常见问题
汇总售前、部署、模型、微调、知识库、硬件、报价、验收与 SLA 九类高频问题:回答区分事实与判断,费用与周期给出影响因素而非口头承诺。
部署与数据边界 22
安全与合规备案 16
模型与许可 21
微调与训练 15
智能体与集成 9
硬件与算力 21
交付与验收 22
效果与评测 12
售前与流程 16
报价与付款 20
知识库与 RAG 10
SLA 与运维 12
安全与合规 3
部署与数据边界
把模型部署在本地,数据就一定不外发吗?
不一定。本地部署说明模型推理与主要数据停留在客户指定环境,但仍可能存在以下外联环节:联网搜索与插件、软件与镜像更新、许可证校验、遥测、远程运维通道、日志导出、云或异地备份、第三方 API,以及移动端上传。因此我们提供 10 项部署边界核对表,逐项确认后再把方案称为“按定义私有化”。
云端模型可以发什么数据?
只发经过审批的最小必要内容:已脱敏、与任务直接相关的片段与提示。默认不得外发完整案卷、合同与原始个人数据;不得外发未脱敏的金融、学籍与政务数据;不得外发客户秘密、凭证与密钥;不得外发内部工具操作结果与未经批准的训练样本。外发须同时满足任务允许、字段已脱敏、客户批准、条款允许、存在退出机制五项条件。
如何删除提示词和输出日志?
先看记录策略再谈删除:默认敏感场景不记录提示词与输出全文,仅记录元数据与片段标识,因此删除主要是清理元数据与审计记录。若客户策略要求记录全文,则按保留期自动清理,并提供按时间范围、用户或会话维度的删除接口;删除操作本身留痕,说明删除范围、执行时间与执行人。
纯私有化部署下,数据真的完全不出域吗?
是。推理、向量库、日志、备份全部在客户域内,可物理断网运行;唯一例外是验收时双方书面确认的域外调用,且全程审计留痕。
混合部署时哪些数据会上云?
由数据分级决定:敏感原文与向量留在域内,仅脱敏后的通用请求上云。分级表在方案设计阶段逐条确认。
本地知识库+外部模型模式安全吗?
该模式下原文不出域,仅向外部模型发送脱敏片段;适合数据敏感度中等、预算有限的场景。敏感级别高的场景建议纯私有化。
模型托管和自建如何选?
看四项:是否需要掌握模型与权重、是否具备算力与运维能力、数据处理条款是否可接受、退出时数据能否导出与删除。要求模型与数据完全自控、负载稳定且具备运维能力的,选自建(纯私有化);无模型自运维需求、可接受服务商版本节奏与条款约束的,选托管。托管不构成数据与合规责任转移,仍须审查账户、SLA、子处理者与跨境安排。
模型托管和你们代建有什么区别?
托管是算力与模型在我们环境运行、数据主权归客户;代建是全部组件落在客户环境。两者数据边界不同,方案里会逐项对比。
可以部署在我们已有的服务器上吗?
先做一次算力适配评估:现有 GPU 型号、显存、网络与供电是否满足目标模型。不满足的给出扩容或更换建议,不硬上。
部署需要改动我们现有网络吗?
通常只需要一个隔离的 VLAN 或独立网段。涉密场景支持完全物理隔离,方案阶段出网络拓扑图供贵方信息部门评审。
向量数据库里的数据算出境吗?
向量库部署在域内则不算;任何将向量或原文同步到境外的设计都默认禁止,例外须书面授权并记录审计日志。
员工误把敏感数据发给外部 AI 怎么办?
部署方案包含出口管控:域内统一入口、敏感词拦截、外发审计。管理侧我们还提供使用规范模板与培训。
系统断网还能用吗?
纯私有化部署支持完全断网运行;混合与云端模式依赖网络,方案中会写明网络中断时的降级策略。
大模型私有化部署有哪些隐性成本?
四类常被漏算:一、算力闲置(自购卡按峰值买、按均值用,利用率低时每百万 token 成本反而更高);二、数据治理与标注的持续人力;三、机房电力制冷与运维值守;四、版本更新、回滚与再训练的时间成本。这些不在硬件报价里,也不在模型价格里,必须单列进预算,否则「私有化更便宜」的结论站不住。
数据迁移由谁负责?
分工写进方案里:客户提供数据源访问权限、字段说明与业务口径;我们做抽取、清洗、切分、向量化入库与检索校验,并交付迁移脚本、校验记录与不一致项清单。迁移在客户环境执行,原始数据不出边界;迁移后的抽样复核由客户业务方签字确认。
服务状态页为什么没有「全部正常」的实时绿灯?
因为我们是客户侧私有化部署:模型和推理服务跑在客户自己的机房或云账号里,我们看不到客户侧的真实水位,挂一个绿灯等于骗人。状态页给的是可核对的承诺:P1/P2/P3 响应与恢复时限、可用性统计口径、计划维护窗口、事故登记与复盘规则。客户侧实时状态以客户自己的监控为准。
数据备份策略是什么?
备份位置、周期、保留期、删除证明四项在方案中写明;默认备份不出域,介质与权限由客户侧管理。
日志会记录员工提问内容吗?
会记录用于审计,但日志保存在域内、有保留期与访问权限控制,到期可出删除证明。这与外部服务的「黑箱日志」不同。
以后想换部署方式怎么办?
五种部署方式的架构是模块化设计的,迁移路径在设计阶段预留;已有知识库与微调成果可平移。
私有化部署能保证数据绝对不出内网吗?
纯私有化形态下模型权重、知识库、应用、网关、日志与备份全部在客户指定环境,默认最小化外联。更新、校验、遥测、远程运维与备份等可能外联的环节,会在边界核对表中逐项书面确认,不承诺「绝对零外联」。
没有 IT 团队能用吗?
纯私有化要求客户具备机房、电力、制冷与专职运维;没有运维能力可选托管或云上形态,把运维责任转移给服务方,同时接受对应的数据边界调整。
模型更新要重新部署吗?
模型版本、知识库与日志需可审计、可回滚,更新按版本管理流程执行,离线更新与内网校验可收敛外联。更新频率与回滚窗口在运维条款中约定。
安全与合规备案
内部使用是否必须备案?
备案与登记责任取决于服务是否面向公众、是否进行了训练优化、上线位置与属地要求。公开监管答复显示:调用已备案模型并进行训练优化的,也需要备案;未进行训练优化的一般无需备案,但仍需登记。该答复不能替代项目具体审查,结论应由客户法务或属地主管部门逐项目确认。
等保由谁负责?
等级保护以客户系统的定级、测评与整改为主线推进:客户作为系统运营者承担主体责任,测评机构出具测评结论,供应商提供技术配合、加固建议、材料与整改支持。私有化部署本身不构成等保达标结论,也不替代访问控制、数据分类分级与个人信息处理合法性。
系统需要等保吗?
按贵司行业与系统定级要求评估;我们提供等保测评所需的技术材料与整改支持。
生成式 AI 备案你们代办吗?
提供备案路径咨询与材料准备支持;备案主体是服务提供方(贵司),我们配合技术文档。
员工权限怎么管理?
支持角色分级、部门隔离、按知识分区授权;权限矩阵是验收材料之一。
信创是否等于兼容所有国产芯片?
不等于。信创适配取决于具体软硬件版本、模型版本与精度、框架与算子支持、驱动与容器镜像、采购主体与项目要求。可行做法是建立适配清单,逐项记录目标模型版本、算子适配层、吞吐与并发基准、故障恢复、监控与厂商支持,再按项目要求验证。
有操作审计吗?
全链路审计:登录、提问、导出、管理操作均留痕,日志域内保存、可导出。
敏感词过滤有吗?
内置敏感词库与自定义词表,命中策略可配置(拦截/告警/脱敏)。
AI 生成内容有标识吗?
支持在输出中自动附加 AI 生成标识与复核提示,符合内容标识监管要求。
数据脱敏怎么做?
入库前脱敏(身份证、手机号、银行卡等模式识别)+ 展示层脱敏,规则可按行业定制。
你们自己会接触我们的数据吗?
实施期接触范围最小化并签保密协议;运维期默认不接触业务数据,远程支持需授权。
系统会被外部攻击吗?
纯私有化不暴露公网;需要外网访问的场景配 WAF、限流与访问控制,上线前做安全测试。
密码和密钥怎么管理?
密钥加密存储、支持定期轮换;管理员强制强密码与双因子认证。
离职员工权限怎么处理?
对接贵司 HR/AD 域可自动同步;手工场景提供一键禁用清单,权限回收有审计记录。
出过安全事故吗?
安全设计以「不发生事故」为目标:最小权限、默认禁止、全程审计。历史项目零重大安全事件。
私有化就等于合规吗?
不等于。私有化是控制边界,不能替代安全测评、数据分类分级与访问控制。落地时需逐项完成数据分级、敏感字段最小化、关键节点人工批准与版本留痕,这四项缺一项不建议上线。
模型与许可
开源模型是否都能商用?
不能一概而论。模型仓库许可与权重许可可能分别适用不同条款,部分权重许可带有行为限制、地域限制或输出限制。做法是建立许可证台账,逐版本记录权重许可、代码许可、训练限制、商用条件、输出与蒸馏限制、署名要求、上游依赖、禁止用途、许可文本哈希与核验日期。
OnvergeAi-H2-27b 是什么模型?和 onverge-h1-14B 有什么区别?
OnvergeAi-H2-27b 是 OnvergeAI 第二个自研闭源模型,基于 Qwen3.8-27B(上游 Apache-2.0)重新训练,面向财务与合规场景:合同扫描、OCR 识别、条款抽取、合规审查、知识库问答与员工培训六类任务,准确率提升至 96.7%,推理速度较源模型提升 33%。与 onverge-h1-14B 的区别:h1 面向法律行业、参数 14B;H2 面向财务合规、参数 27B、原生多模态(内置视觉编码器,支持图像与文档理解)。两个模型都不提供公开权重下载,商用须取得书面授权,授权范围、部署方式与并发规模以授权协议约定为准。
onverge-h1-14B 是开源模型吗?可以下载权重吗?
onverge-h1-14B 不是开源模型。它是 OnvergeAI 自研的首个闭源法律专用模型,基于 Qwen3-14B 权重、以 1500 万条法律数据重新训练,不提供公开权重下载。商用需取得 OnvergeAI 书面授权,授权范围、部署方式与并发规模以授权协议约定;许可信息、显存门槛与典型落地场景见模型库的 onverge-h1-14B 页面。
Qwen3.6-35B-A3B、Qwen3.5-122B-A10B、Qwen-Image-2512、MiniMax H3 这几个模型能下载权重吗?
这四个都是开源模型,本站不托管权重:详情页「官方下载源」跳转厂商官方仓库或官网获取。许可口径:Qwen3.6-35B-A3B、Qwen3.5-122B-A10B、Qwen-Image-2512 采用 Apache-2.0 协议,可商用与私有化部署;MiniMax H3 采用 MiniMax H3 Community License,属社区许可,商用前需核对官方许可证条款。需要按场景做本地部署、微调与运维,可由我们按合同交付。
模型库里标注的显存门槛是怎么算出来的?
按参数规模的估算口径计算:INT4 量化约 0.5GB/10 亿参数、INT8 约 1GB/10 亿参数、FP16 全精度约 2GB/10 亿参数,模型库每张卡片都注明这是估算口径。实际显存还受上下文长度、并发数与推理框架开销影响,最终以官方部署文档与实测为准,方案阶段我们会按你的并发与上下文重新核算。
Qwen 有没有 3.7 版本?
没有。阿里通义千问的版本线从 3.6 直接跳到 3.8,官方渠道与公开模型目录均不存在 Qwen 3.7。模型库已收录 Qwen 3.5、3.6、3.8 系列(含 27B 单卡档与 2.4T 旗舰档),选型时以模型库在架版本为准。
openPangu 模型有什么使用限制?
openPangu 采用华为自定义许可:可商用、无收入门槛,但有两条硬性义务——欧盟境内禁止使用,商用分发须署名 Powered by openPangu。模型库对应页面有显著提示条,方案默认面向国内与港澳台客户;涉及欧盟业务的项目我们会直接排除该系列。
模型库里标注「许可待核实」的模型能直接商用吗?
不能直接按可商用处理。标注「待核实」表示权重仓库许可文本尚未完成逐条核验,风险等级按谨慎口径处理;核验完成前这类模型不会进入交付方案,核验通过后页面口径会更新。
MiniMax-M3 这类「基础授权仅非商用」的模型能用于企业项目吗?
基础授权仅限非商用场景,企业商用需要单独取得商业授权。模型库对这类模型加了显著提示条,默认不进商用方案;如确有需求,我们会先协助确认授权路径与费用,再评估是否纳入选型。
你们推荐哪个模型?
不推荐「最好的模型」,推荐「最匹配的模型」:按场景、数据量、算力预算在候选集里做对比评测,用分数说话。
开源模型可以商用吗?
逐一看许可证:有的完全可商用,有的有用户数或营收限制,有的禁止特定用途。交付前出具许可核验清单,不合规的不进方案。
模型参数越大越好吗?
不是。7B-14B 级别经针对性微调后在垂直场景常超过通用大模型,且算力成本差一个数量级。选型报告会给对比数据。
你们自己研发模型吗?
不做基座模型研发。我们基于合规的开源/商用模型做微调与工程化,保持选型中立。
模型版本升级怎么处理?
运维期内包含版本评估:新版本出来后用同一评测集回归,确认不低于现网水平再升级,升级有回滚预案。
模型的回答能控制风格吗?
可以。通过系统提示词、微调样本与输出模板三层控制语气、格式与术语口径,验收时纳入评测项。
显存与并发估算器算出来的准吗?口径是什么?
估算器用的是与模型页一致的权重口径:FP16 约 2GB/十亿参数、INT8 约 1GB、INT4 约 0.5GB;KV 缓存按参数量分档系数 × 注意力结构 × 上下文 × 并发估算,另加 8% 显存开销,再按单卡可用 90% 折算卡数。它是选型用的量级估算,不是实测值:真实占用受引擎实现、PagedAttention、批处理策略影响,最终以目标并发下的实测曲线为准。图像与视频类模型只计权重,不计 KV。
国产模型和国外模型怎么选?
从效果、许可、备案、算力适配四个维度对比。政企场景通常优先可备案的国产模型;具体看评测结果。
模型会「记住」我们的数据吗?
推理本身不产生记忆;微调会。所以微调样本的准入与脱敏有专门审查,评测集包含「记忆泄露」检查项。
70B 和 32B 模型企业该选哪个?
先看三件事:任务复杂度、并发与时延预算、显存成本。权重上 70B 的 FP16 约 140GB、32B 约 64GB,INT4 下分别是约 35GB 与 16GB——同价位卡能跑的并发差一倍以上。实践口径:常规知识问答与文档摘要,32B 往往够用;多步推理、复杂合同比对、长上下文综述再上 70B。别凭参数大小决策,用同一套题集做 POC 对比,按合格线判定。
可以同时用多个模型吗?
可以,常见做法是路由制:简单问答用小模型,复杂任务用大模型,成本与效果平衡。架构阶段设计路由策略。
模型备案是怎么回事?
面向公众提供生成式 AI 服务需按监管要求备案;纯内部使用另有口径。我们按贵司实际使用形态给出合规路径建议。
微调与训练
检索增强能否消除模型输出错误?
不能消除,只能降低部分错误。检索增强把回答约束在检索到的片段上,可减少凭空生成的倾向,但检索召回不足、切片不当、提示设计不佳或片段本身有误时仍会出错。因此必须保留引用定位、未命中提示与人工复核点,并用可复算的指标(测试集、样本数、基线)验证效果。
能否使用客户数据继续训练?
只有满足三个条件才可以:许可允许训练与输出使用;客户书面授权(明确目的、数据种类、处理方式、地域、期限、成果归属与衍生模型许可);数据来源合法并完成必要的个人信息处理。默认不将客户数据用于训练;如需使用,在合同中单列条款,并约定训练日志与中间权重的保存或删除方式。
私有化部署可以用百川 Baichuan-M2 吗?
可以。Baichuan-M2 采用 Apache 2.0 许可,开源可商用、无门槛无申请。已有真实交付案例:某区级人民医院纯私有化部署 Baichuan-M2 全精度方案(4 卡 RTX PRO 6000 + 256G DDR5),用 150 万条本院数据脱敏后做本地化训练,案例页可查(脱敏口径)。
微调和知识库(RAG)有什么区别?
RAG 管「知道什么」,微调管「怎么说话、怎么做事」。事实性知识走知识库,风格、流程、格式走微调,两者常组合使用。
LoRA 与全量微调如何选择?
通常先看四个条件:数据是否动态、样本量与标注质量、许可是否允许训练与输出使用、算力与时限。数据频繁变化、需要引用原文时优先检索增强;任务格式统一且样本质量可控时可考虑 LoRA 或指令微调;领域语料差异大且预算充足时才考虑继续预训练。无论哪种方式,都应先确定评测口径,再决定方法。
微调需要多少数据?
指令微调通常数百到数千条高质量样本即可见效;质量比数量重要。诊断阶段会评估现有数据是否够、缺什么。
如何导出或迁移模型、知识库与向量数据?
四项分别处理:模型权重的来源与许可若允许再分发,可按导出流程导出并核对哈希;知识库按结构化格式导出文档、切片与元数据;向量数据可重建(推荐以原文与切片重算,避免跨版本不兼容)或按工具导出索引;配置与日志按权限导出。导出内容与权限在项目启动时约定,项目结束时按约定返还或删除并出具记录。
我们的数据质量不高能微调吗?
先做数据治理:清洗、去重、脱敏、格式化为指令对。数据治理本身是独立可验收的工作包。
微调会不会把模型「教坏」?
有这个风险,所以有评测集回归制度:每轮微调后跑通用能力+场景能力两套评测,退化则不发布。
SFT 和 LoRA 选哪个?
LoRA 成本低、可叠加、易回滚,适合大多数场景;全量 SFT 用于深度定制。选型在方案里按预算与目标给结论。
微调一次要多久?
视数据量与算力:典型 LoRA 任务数小时到两天;含数据准备与评测的完整微调工作包通常 1-3 周。
微调后的模型归谁?
归客户。权重文件、训练脚本、评测报告全部交付,这是验收材料之一。
训练过程我们能看吗?
能。训练任务、损失曲线、评测分数在训练面板可查;关键节点有评审会。
后续业务变化了要重新微调吗?
增量微调即可:补充新样本做增量训练并回归评测,不用从零开始。运维套餐含迭代次数约定。
微调数据里不能有客户隐私怎么办?
训练数据准入审查包含脱敏与最小化原则;可用合成数据增强替代真实敏感样本。
智能体与集成
外部智能体能否直接修改业务系统?
取决于权限设计与人工节点,默认不让高风险动作自动执行。做法是:工具清单与权限最小化、区分只读与写入动作、高风险动作(写库、提交、对外发送、付款、删除)必须人工审批、保留操作日志与回退路径、为失败场景设计补偿与人工接管。
智能体能直接操作我们的业务系统吗?
可以,但默认「人确认后执行」:写操作前必须人工确认,确认点在方案里逐项定义。
能和现有 OA/ERP 对接吗?
主流系统有对接经验;通过 API 或数据库视图接入,只读优先,写入操作需单独授权评审。
智能体会不会乱调用工具?
工具白名单制:每个可调用的工具、参数范围、频率上限都显式配置,越界调用会被拦截并记录。
对话入口能嵌入我们自己的系统吗?
提供 Web 组件与 API 两种集成方式,可嵌入内网门户、IM 或业务系统页面。
智能体回答错了谁负责?
责任边界写进方案:AI 输出定位为辅助建议,关键动作由人确认;系统记录完整链路供审计。
支持工作流编排吗?
支持可视化编排:检索、生成、调工具、人工确认节点可组合,典型流程有模板。
能对接企业微信/钉钉吗?
支持,以机器人形式接入群聊或单聊;权限沿用知识库分区。
并发量能到多少?
取决于部署算力;架构阶段按贵司人数与峰值估算给出并发指标,验收时压测验证。
硬件与算力
硬件报价为何不能统一?
因为配置、交期、渠道、机房条件、合同主体与售后安排差异极大。同一个模型在不同精度、上下文长度、并发与冗余要求下,所需显存与节点数不同;不同供应商的库存与交期也不同。因此我们按 BOM 组织报价:先出配置与候选对比,再按供应商报价与合同条款确认,硬件费、实施费与服务费分开列示。
原厂质保和服务商运维有何区别?
两者责任不同:原厂负责制造缺陷、质保期限、备件与 RMA,按原厂条款与原厂流程执行;服务商负责集成、兼容性测试、部署、性能调优与一线支持。超出原厂或合同范围的特殊环境改造、数据迁移、软件适配与驻场另行约定。我们不做原厂质保兜底,也不承诺所有硬件故障的修复时限。
模型选型和硬件配置怎么对应?
两步走:先在模型库按厂家与能力类别筛出候选模型,每张卡片标注 INT4/INT8/FP16 三档显存门槛;再结合并发数与上下文长度确定显卡数量与内存配置。硬件页有选型方法与模型算力匹配说明,也可以先用自助估价器估一个区间,方案阶段再精确核算。
跑私有化大模型最低要什么配置?
7B 级模型单卡 24GB 显存可起步;14B 建议 48GB;70B 级需要多卡或量化方案。按目标模型出 BOM 清单。
你们代采硬件加价吗?
不加价。硬件按 BOM 透明报价,代采服务费单列;到货双方共同验收。
国产 GPU 能用吗?
能。主流国产算力有适配经验;选型时评估框架兼容性与性能折算,给出对比数据。
机房条件不够怎么办?
硬件选型包含机房评估:供电、散热、承重、网络。不满足的给出改造建议或改用托管/云端方案。
到货后由谁验收?
由客户指定验收人,服务商与供应商协助。验收内容包括:型号、序列号与数量核对;外观与通电检查;基础性能测试;GPU/NPU 压力测试;网络与存储测试;模型部署冒烟测试;监控与告警接入;备件与资产台账;培训与交接。验收标准与方式在采购前书面确认,验收记录作为付款与质保起点。
显卡买消费级还是专业卡?
按可靠性要求:生产环境建议专业卡或整机(ECC、质保、稳定性);验证环境可用消费级控制成本。
后续能扩容吗?
架构按横向扩展设计:单机→多机→集群的扩容路径在方案中预留,扩容不推倒重来。
硬件到货验收验什么?
型号、序列号、通电测试、压力测试、质保凭证五项;验收单双方签字后结算该阶段款。
能耗成本大概多少?
按 BOM 的额定功耗与负载率估算年电费,写进方案的 TCO 章节。
可以先租算力验证吗?
可以。PoC 阶段支持短租云端 GPU 验证效果,正式环境再采购,避免一次性重投入。
硬件故障怎么办?
质保期内走厂商保修;运维套餐含备件策略与故障切换预案,P1 级故障按 SLA 响应。
为什么代采要收对赌保证金?
因为现货同台窗口很短,代采和居间方临时撤单会直接占掉卖方的时间与资源。保证金是对「确认后真的成交」的承诺,不是服务费,按合同约定处理退还。对终端自用买方不加这一条,只针对代采与居间环节。
70B 模型要几张 A100 才能跑?
按本站统一口径(每十亿参数:FP16 2GB、INT8 1GB、INT4 0.5GB)推算权重大小:70B 的 FP16 约 140GB、INT8 约 70GB、INT4 约 35GB。对应到 A100:FP16 需 2×A100-80G;INT8 单张 A100-80G 可放权重但余量紧;INT4 单张 A100-80G 有余量。A100-40G 只有 INT4 单卡可行。这些只是权重,KV Cache 还要按并发与上下文长度另加,用显存与并发估算器可以直接算。
需要专门的运维人员守着机器吗?
不需要。监控告警由运维平台承担,客户侧只需保留一名对接人。
70B 模型的服务器要多少钱?
先看要跑什么:FP8 推理 70B 通常 2×H100 级别,FP4 可用单卡 B200;INT4 单机可起但并发受限。硬件按 BOM 逐项报价(卡、整机、网络、配套电力与制冷),不加价转售。软件侧参考量级:70B 训练 + 部署 + 验收不含硬件约 50 万元。具体配置取决于并发、时延与上下文长度,建议先用显存估算器算门槛再定卡。
硬件代采会不会加价?
不会。代采按 BOM 清单逐项报价,卡、整机、网络与配套分别列示,不加价转售;代采服务费单列,客户可以直接对账。需要自行采购的也支持,我们只做选型、兼容性校验与上架实施。现货一般可约 24 小时内同台、最迟不超过 48 小时;同台前不需要买方提供资质,但代采与居间方需接受 100 万元以上对赌保证金。
现货同台要多久?同台前需要提供资质吗?
现货一般可约 24 小时内同台,最迟不超过 48 小时。同台前不需要买方提供任何资质。为不浪费买卖双方时间,买方(代采、居间方)需接受 100 万元以上的对赌保证金;无法接受对赌条款的代采或居间,我们不接询价。这一条写在货源页的「算力代采指南」里。
算力利用率怎么监控?
运维面板实时展示 GPU 利用率、显存、队列深度;月度报告含利用率分析与优化建议。
交付与验收
项目如何验收?
按阶段验收并回归到材料:立项与保密、诊断、设计验证、PoC、生产实施、验收运维六个阶段各有完成条件;最低验收材料 17 项,包括需求与范围确认书、架构与部署边界图、数据目录与处理方式清单、模型许可证与版本台账、环境与资产清单、测试与压力报告、安全配置核查表、权限与审计策略、备份恢复演练记录、培训记录、缺陷清单、UAT 签字、验收报告、运维手册与项目总结。每项指标写明定义、测试集、样本、环境、基线、目标值与复测方式。
模型输出错误由谁负责?
责任按边界划分:服务商负责系统设计、实现、测试与缺陷修复,并对约定的指标口径负责;客户负责人工复核与业务判断,专业场景的输出不得作为专业意见直接使用;数据错误由数据提供方负责;环境与网络故障由客户或运营商负责。为避免争议,实施前应约定人工复核点、留痕要求与缺陷分级标准。
没有客户案例时如何证明能力?
用明确标识的能力示例证明方法,而不是制造客户背书。能力示例统一标注“能力示例(非客户案例,数据为示例或已脱敏)”,展示虚构文件、字段、测试结果与人工复核记录,并在材料首页与页脚注明“本材料用于说明方法、流程和交付物,不构成客户案例,不保证在任一客户环境中取得相同结果”。有授权案例与能力示例属于不同证据层级,不能相互替代。
17 项验收材料都是什么?
含需求确认书、架构方案、数据边界清单、许可核验、评测报告、训练记录、部署清单、权限矩阵、运维手册等,签约前可索取完整清单模板。
验收不通过怎么办?
按验收单逐项整改,复测通过前不触发该阶段付款;连续不达标有退出条款保障客户。
模型升级是否影响业务?
可能有影响,需要在变更流程里处理。模型或组件升级可能改变输出风格、引用行为与接口兼容性,因此我们按变更管理执行:升级前提供变更说明与影响范围、在测试环境做回归测试、保留前一版本与回滚包、约定变更窗口与业务确认方;涉及许可或版本限制变化的,同步更新许可证台账。
验收标准谁定?
双方在设计阶段共同定:评测集、指标阈值、验收流程写进合同附件,不是交付时单方宣布。
交付物包含源代码吗?
包含:部署脚本、微调代码、集成组件源码与文档全部交付,不做技术锁定。
项目过程中我们能参与多深?
建议指定业务对接人与数据负责人参加周会与关键评审;深度可按贵司意愿调整。
上线后有培训吗?
有:管理员培训(配置、权限、知识库维护)与使用者培训(提问方法、边界规范),含培训材料。
交付周期能保证吗?
每阶段有退出条件与时间范围;因我方原因延期的违约责任写进合同。
验收评测集谁出?
双方共同构建:贵司出真实业务题目,我们补充边界与对抗样例,共同确认后冻结。
项目文档用什么语言?
中文为主,技术附录含必要英文术语;全部文档随阶段交付并归档。
验收后发现问题还能找你们吗?
质保期内免费修复;之后按运维套餐覆盖。问题分级响应时限见 SLA。
培训包含几次?交付后还管不管?
验收阶段包含管理员与业务用户培训(操作、维护、再训练流程),培训材料与操作说明随交付物移交;上线后的培训与开发支持属于运维九类工作范围之一,按年度订阅提供,不是交付即结束。
验收不合格怎么办?
17 项验收材料逐项核对,标「必需」的缺一项不予验收。未达标的开缺陷单,写明现象、复现条件、责任方与整改期限,整改后复测同一口径;复测通过才进入验收签署。效果类指标按 PoC 阶段约定的合格线判定(问答准确率 ≥85%、Recall@5 ≥90% 且 MRR ≥0.75、首 token P95 ≤2s 且单请求 ≥20 tok/s、连续 8h 零 OOM 且错误率 <0.5%),不达标按合同约定的退出与整改条款处理。
交付周期一般多久?
按六阶段推进,第 0—15 周:立项与保密、诊断、设计验证、PoC、生产实施、验收运维。客户自备符合条件的算力、数据治理已就绪时周期可压缩;需要硬件代采的,现货一般可约 24 小时内同台、最迟不超过 48 小时,采购周期另行计入。写进合同的是阶段控制点与验收条件,不是一句总工期。
能上门实施吗?覆盖哪些地区?
可以。上门实施覆盖中华人民共和国境内,含港澳地区以及新疆、西藏;现场工作包含环境部署、数据接入联调、试运行陪跑与验收支持。境外项目按远程交付 + 现场窗口的方式另行约定,现场窗口的次数与时长写进合同。
你们说的交付周期包含硬件采购时间吗?
包含。页面与案例里写的周期(如 4 周、6 周、7 周、11 周)是「从签约到验收」的整体周期,其中已经包含采购硬件的时间;如果客户自备算力,周期会相应缩短,具体以项目排期表为准。
POC 怎么算通过?四条合格线是什么?
四条同时达标才算通过:①问答准确率 ≥85%(业务真实题集、≥200 题人工标注);②检索 Recall@5 ≥90% 且 MRR ≥0.75(≥100 条问题-片段标注,测整条链路);③首 token 延迟 P95 ≤2 秒且单请求 ≥20 tok/s(内网、目标并发下测);④连续 8 小时压测零 OOM 且错误率 <0.5%(含长上下文用例)。门槛只可上调,下调要书面说明理由;与合同冲突以合同附件为准。
项目分几步?付款怎么绑?
按六阶段推进,付款与阶段控制点绑定,阶段成果验收后支付对应比例;每阶段有独立交付物与验收标准。具体阶段划分与付款比例在合同中约定。
验收看什么?
以 17 项验收材料清单为准,逐项列明交付形式、必需级别与核对方式,覆盖项目章程、诊断报告到验收报告与 SLA 说明;空白模板可在签约前索取,用于内部评审。
效果与评测
网站上的授权案例是真的吗?为什么不公开客户名称和指标?
是真实交付记录:每条授权案例都取得了客户书面授权,按脱敏口径发布。客户名称保留地区与行业、不写全称(如「郑州某财务有限公司」);指标数值按授权范围决定是否公开——页面上公开的指标一律标注「客户口径,未经第三方复测」,未授权公开的指标、测试集构成与关键参数仍按脱敏口径不公开,验收记录存档于客户环境。合作洽谈时可在保密安排下按口径进一步说明。
POC 要做多久、花多少钱?
周期:PoC 排在六阶段第 3 阶段,标准排期为第 5—8 周、共 4 周,阶段付款比例 15%。范围包括评测方案与测试集定义、环境搭建、真实题集跑测、失败样本归因与结论报告。费用按范围与周期在签约前书面约定,不单列固定价目;如果用客户自备算力、题集已就绪,周期可以压缩。
有在线演示环境可以先看看吗?
在线演示环境会在 OnvergeAI Office(临界办公)平台接入后开放,届时可自助试用;在那之前,我们建议直接在客户环境做 POC:用你自己的真实题集跑,比标准化演示更接近真实效果。POC 范围、周期与费用在签约前以书面方案约定。
文章署名是挂名吗?审核人到底审什么?
不是挂名,是按领域分人、双人署名:一位主审对结论负责,一位复核对口径与数字一致性负责;审核与发布分离,同一人不能既是唯一审核又唯一复核。审核范围写在每位审核人的页面上(部署架构与容量、安全测试与权限、依赖与系统基线、模型许可与备案、交付边界与验收口径)。发现错误走工单更正,更正记录留在原文章。
为什么基准库里没有「三档量化精度损失」的公开数据?
不是没找,是公开记录不足:同时给出可复现计时与精度分数的实验很少,覆盖的科目单一,多数精度差落在基准采样噪声内,拼起来会误导选型。这一项我们只做自测(固定 harness、三档权重、同一题集重跑),有结论才对外写,不引用拼接数字。
公开实测基准库里的数字能直接套到我们场景吗?
不能直接套。基准库只收能写明引擎、显卡、量化与工作负载口径的数据(例如 TensorRT-LLM 官方吞吐表的「无限请求速率下最大吞吐」),用途是比量级和方向,不是替代你的实测:同样的模型,换引擎、换并发、换上下文长度,数字会差出数倍。我们收数据的门槛就是「去掉口径的数字不具可比性」,所以每条都带出处与口径。
怎么证明 AI 真的好用?
用评测集说话:贵司真实业务题目 + 基线对照 + 指标阈值,验收时现场跑分,不看演示效果。
准确率能达到多少?
不承诺拍脑袋数字。评测指标(命中率、忠实度、可用率)在方案里定口径,验收以实测为准。
回答幻觉怎么控制?
四层:知识库引用约束、拒答策略、置信度提示、人工复核点。幻觉率纳入评测集监控。
评测集会不会被「应试」?
评测集双方共同冻结并保留隐藏测试集;验收后可定期用新样本抽检。
上线后效果会退化吗?
知识和模型都可能过期,所以运维含定期回归评测;指标低于阈值触发优化流程。
和 ChatGPT 比怎么样?
通用聊天不比;在贵司私有数据与垂直流程上,私有化方案的回答可溯源、权限可控,这是公有服务做不到的。
售前与流程
星枢云聚合 API 是什么?和你们的服务是什么关系?
星枢云是关联方向的聚合 API 服务,一个接口调用多家模型,适合快速验证与轻量场景。我们的主线是企业私有化部署:数据不出域、模型跑在客户自己的硬件上。两者互补——可以先用聚合 API 低成本验证场景,数据敏感或量级上来后再转私有化部署,我们提供完整的迁移路径。
第一次沟通需要准备什么?
不用准备材料。30 分钟需求访谈里我们问清楚四件事:业务场景、数据类型与敏感度、现有系统、预算区间。会后 3 个工作日内给出书面方案与报价区间。
从咨询到上线一般要多久?
按六阶段工序:诊断 1-2 周、设计 1-2 周、环境建设 2-6 周、能力构建 2-8 周、验收 1-2 周。典型中型项目 8-16 周,验收后进入持续运维。
可以先做一个小范围试点吗?
可以,也是我们建议的方式。选一个边界清晰的场景做 PoC(通常 2-4 周),用双方确认的评测集验收效果,达标后再签整体方案。
你们和卖模型 License 的厂商有什么区别?
我们卖的是「可验收的工程能力」而不是模型本身:模型选型中立,许可合规核验,交付物、验收标准、责任边界逐条写进合同。
没有 AI 团队的组织能做私有化大模型吗?
能。六阶段里我们承担全部技术工作,客户侧只需要业务对接人和数据负责人;运维阶段按 SLA 由我们值守。
已经有通用大模型账号,还需要私有化吗?
取决于数据边界:如果业务数据不能出域、回答需要溯源、权限需要分级,公有云服务无法满足,就需要私有化或混合部署。
需求访谈是收费的吗?
首次 30 分钟需求访谈免费。深度诊断(含数据盘点、现场调研)作为阶段 1 工作包收费,费用在签约时计入项目总价。
方案书里会包含什么?
架构图、模型与算力选型及理由、数据边界逐条说明、验收标准与评测集口径、报价四类拆分、风险与退出条件。
我们不确认自己的数据能不能用,怎么办?
阶段 1 的诊断包含数据分级盘点:哪些可用、哪些需脱敏、哪些禁止入模,逐项给出结论,这是后续所有设计的前提。
可以只买咨询不买实施吗?
可以。八项能力按 BOM 条目拆分,咨询诊断可单独采购,交付诊断报告与路线图,后续实施不做强制绑定。
签约前能看到验收标准吗?
能。17 项验收材料清单与评测口径在签约前提供,作为合同附件;验收标准不后补。
有没有免费试用?
没有免费试用。私有化项目的成本在环境与人力,免费试用既跑不出真实效果,也容易被当成免费 POC。替代路径是付费 POC:范围、周期与费用签约前书面约定,用你自己的题集与合格线判定;在线演示环境会在 OnvergeAI Office(临界办公)平台接入后开放。
有没有行业之外的场景能做?
首页列出六个行业是因为有成熟场景模板;其他行业按同一套工程方法评估,诊断阶段会明确可行性与边界。
咨询诊断怎么收费?
不标固定价目。咨询诊断按项目范围与工作包计价:需求梳理、数据盘点、方案设计与 PoC 建议书各有明确交付物,范围与工作量在签约前书面确认,不按人天凑数。诊断结论如果不支持上项目,我们会直接说,不硬推后续阶段。
能不能先做 POC 再决定采购?
可以。POC 归入六阶段的试点环节:先在内部知识问答场景跑通检索、答复草稿、人工确认与留痕链路,再决定是否扩大范围。POC 范围、周期与费用在签约前以书面方案约定。
报价与付款
onverge-h1-14B 授权费用大概多少?为什么站上没有标价?
由于训练的底座模型、训练数据规模、训练能力与微调周期等各不相同,同类模型的价格无法准确估量,站上不做统一标价。如需准确价格,请联系客服沟通具体需求、部署方式与并发规模;硬件采购成本可先用部署预算估算器单独测算。
报价是怎么构成的?
四类拆分:咨询服务费、软件与实施费、硬件与算力费、运维与优化费。每一类下列工作包,拒绝一口价黑盒。
付款节点怎么安排?
与六阶段绑定:10%/20%/20%/25%/15%/10%,合计 100%;每期付款对应一个可验收的交付物。
自助估价器的结果准吗?
估价器按 17 项变量出区间,用于预算初判;正式报价以需求访谈后的方案为准,区间通常收敛在估价范围内。
有没有隐藏费用?
没有。报价单列明所有费用项与排除项;可能产生的第三方费用(如商用模型许可费)单独标注。
可以分期或按年付吗?
项目款按阶段节点支付;运维费按年订阅。特殊付款安排可在商务条款中约定。
硬件价格和京东/淘宝比怎么样?
代采不加价,报价附市场行情对照;客户也可自采,我们提供选型清单与验收标准。
中途需求变了怎么算钱?
走变更单流程:评估工作量、双方签字、调整报价与工期;不变更口头承诺。
发票怎么开?
按合同主体开具增值税专用发票或普通发票,税率与类目在商务条款中写明。
预算只有几十万能做吗?
能起步:小模型+单场景+知识库的轻量方案在该量级内;方案阶段会按预算倒推范围,不超支设计。
能不能只买服务不买硬件?
可以。硬件不是必选项:客户自备符合条件的算力(含存量卡、云上算力)我们只做软件、实施、微调与运维,周期会相应缩短;需要代采时按 BOM 清单逐项报价、不加价转售,代采服务费单列。
支持分期付款吗?比例怎么定?
付款与六阶段控制点绑定,按阶段成果验收后支付:阶段 1 诊断 40%、阶段 2 设计验证 30%、阶段 3 PoC 15%、阶段 4 生产实施 10%、阶段 5 验收运维 5%,阶段 0 立项与保密为 0%。具体比例在合同中约定,与阶段交付物一一对应。
年运维费怎么算?占合同额多少?
运维费用占合同总价的 50%,按年度订阅;含九类运维工作范围(故障响应与 SLA、模型与推理服务运维、算力与基础设施、安全权限与审计、效果优化与知识维护、监控告警、备份容灾与变更管理、培训与开发支持、成本与用量运营),服务期内每年 2 次针对应用场景的微调作业。
为什么你们比某些报价贵/便宜?
报价差异通常在范围与验收口径:我们把验收材料、评测、运维责任都写进合同,这些都有成本。可比的是同口径总价。
上线后改需求怎么计费?
走书面变更单:写清变更内容、影响范围、工作量与价格,双方签字后执行,不口头改。变更可能与阶段控制点联动(例如改动已验收模块需重新验收),价格按变更范围评估,不按「人天 × 未知」估算。
自部署大模型是按 token 计费的吗?
不是。自部署买的是容量,不是按量调用:token 不是计价单位,边际成本主要是电费(按单卡功耗 × PUE × 电价折算,量级在每百万 token 几厘到几分钱),全成本还要摊硬件折旧与运维(运维费占合同总价 50%)。所以比价只能按「每百万 token 当量成本 + 实际利用率」比:利用率低于约 15% 时,自部署反而比按量计费的 API 贵。
微调服务怎么收费?
微调是可选服务,按范围单独报价,不按 token 计费。定价看四件事:数据量与标注工作量、方法选择(LoRA/QLoRA、指令微调还是继续预训练)、评测口径与测试集规模、是否需要持续再训练。报价里包含训练配置与脚本、评测报告、模型版本与回滚记录等交付物;训练日志与中间权重的保存期按合同约定。
报价一般包含哪些部分?
报价拆成四类,每类列明计价依据与包含项:一、咨询诊断(需求梳理、数据盘点、方案设计,按范围与工作包计);二、软件与实施(部署实施、微调训练、知识库、系统集成,按工作包计);三、硬件(按 BOM 清单逐项报价,不加价转售,代采服务费单列);四、运维(占合同总价 50%,按年订阅)。四类分开列示,不打包成一句总价;付款与六阶段控制点绑定。参考量级:70B 模型训练 + 部署 + 验收,不含硬件,约 50 万元。
70B 模型从训练到上线要多少钱?
70B 模型的训练 + 部署 + 验收,不含硬件采购,约 50 万元。服务内容覆盖方案设计、部署实施、微调训练、知识库构建、系统集成与 17 项验收材料;硬件(卡、整机、网络与配套)按 BOM 清单另行核价。需要更准的数字,给部署形态、并发规模与数据治理范围,我们按工作包出书面报价。
一套私有化部署多少钱?
报价按咨询、软件、硬件、运维四类拆分,每类列明计价依据与包含项;付款与六阶段控制点绑定,阶段验收后支付对应比例。典型量级:70B 模型的训练 + 部署 + 验收,不含硬件采购,约 50 万元。总价取决于部署形态、模型规模与数据治理工作量,需需求梳理后书面报价。
知识库与 RAG
知识库的回答能标注出处吗?
能,且这是默认验收项:每条回答附原文段落锚点,点击可回溯到源文档位置。
文档更新了知识库怎么同步?
支持全量重建与增量更新;增量按文档版本自动入库,管理后台可手动触发或定时同步。
扫描件 PDF 能进知识库吗?
能,先 OCR 再做版面解析;扫描质量差的文档会标记出来由人工确认,不静默入库错误内容。
知识库检索不到时会怎样?
按设定的拒答策略处理:明确告知「知识库未覆盖」并给出转人工入口,不编造答案。
支持哪些文档格式?
Word、PDF、Excel、PPT、Markdown、HTML、纯文本及主流扫描件;特殊格式在诊断阶段确认。
知识库容量有限制吗?
技术上按向量规模扩容;十万级文档是常规配置。容量规划在架构设计里给出。
不同部门能看到不同的知识吗?
支持按部门/角色做知识分区与权限隔离,检索时自动按身份过滤。
表格和图纸里的信息能检索吗?
表格结构化入库可检索;图纸需先做信息抽取,可行性在诊断阶段评估。
知识库问答的准确率怎么保证?
三层:入库前清洗与切块策略、检索时重排序、回答时引用约束。验收用双方确认的评测集测命中率与忠实度。
旧系统里的数据能迁过来吗?
常见系统(OA/文档库/网盘)有迁移连接器;自研系统提供 API 或导出文件均可接入。
SLA 与运维
SLA 分几级?
P1(服务不可用/数据泄露)立即响应;P2(核心功能受损)限时响应;P3(一般问题)工作时间响应。具体时限见 SLA 页。
半夜出问题有人管吗?
P1 级 7×24 响应;P2/P3 按服务时间窗口。告警自动触达值守工程师。
运维包含哪些内容?
监控值守、安全补丁、模型与知识库更新、容量管理、月度报告;效果迭代次数按套餐约定。
运维费一年大概多少?
按系统规模与 SLA 级别阶梯定价,报价阶段给出明确数字;可按年续签。
响应超时有什么赔偿?
SLA 写明赔偿上限与计算方式(通常按服务费比例抵扣),承诺可验证、违约有代价。
可以只做一次部署、不要运维吗?
可以,但建议至少保留基础保障:大模型系统需要持续更新知识库与安全补丁。
你们远程运维需要开什么权限?
远程授权按需开启、限时有效、全程录屏审计;默认不开长期通道。
系统出故障多久能恢复?
恢复时限按 SLA 分级写明;架构设计含单点故障预案,关键组件可冗余。
月度运维报告有什么内容?
可用性、响应记录、资源利用率、知识库更新量、优化建议与下月计划。
合同里的 SLA 怎么定才不吃亏?
SLA 要写四个口径,缺一个就会吃亏:一、响应口径——按故障分级写清首次响应时限(本站公开口径:P1 业务不可用 ≤15 分钟、P2 ≤2 小时、P3 ≤1 个工作日);二、恢复口径——写目标恢复时间与升级路径,别只写「尽快」;三、违约与抵扣——未达标的服务抵扣比例与计算方式;四、退出与数据归还——合同终止时数据、模型与日志怎么交还、多久内删除。只写「7×24 小时服务」等于没写。
质保多久?出问题几小时响应?
硬件按原厂质保执行、以到货验收单与保修卡为准;服务侧的响应时限按故障分级:P1(业务不可用)确认后 ≤15 分钟首次响应、P2 ≤2 小时、P3 ≤1 个工作日。事故在 /status 登记,恢复后 3 个工作日内出复盘,公开复盘需客户书面同意。
合同到期不续费系统还能用吗?
能。系统与数据全部在贵司环境,不续费不影响使用,只是失去运维保障。
安全与合规
教育行业用大模型辅导学生合规吗?
可以辅助,但有边界:一、未成年人个人信息按最小化原则采集,非必要不采集身份与联系方式;二、面向学生的内容要过审核,生成内容不能直接下发;三、成绩评定与升学建议不由模型决定,教师保留最终判断;四、题库与教材来源的版权与授权要能核验。
政务单位用大模型要注意什么?
优先顺序是合规在前、功能在后:一、等保与密评要求先明确,再定部署形态;二、政务数据留在政务内网,模型与知识库本地化,外联环节逐项书面确认;三、行政审批与执法决定必须人工签发,模型只做起草与检索;四、采购与信创适配按本地要求执行,日志与操作留痕保存期限写进合同。
律所上大模型有哪些合规红线?
四条红线:一、律师保密义务——当事人信息与卷宗默认不出所内网络,模型与知识库本地部署;二、生成内容不得直接当法律意见,出具意见与签字仍由执业律师完成;三、留痕——谁提问、谁复核、引用了哪条依据要可回溯;四、数据最小化——按案件授权范围采集,超出授权不得入库。做不到这四条,不建议上线。