PROCESS · 临界智能
SLA 服务级别与运维服务范围
SLA 按 P1/P2/P3 分级写明响应时限、恢复时限与升级路径;运维费用占合同总价 50%,含每年 2 次应用场景微调,九类运维工作范围逐项列明。
P1 · 严重(服务不可用 / 数据泄露疑似 / 核心生产故障)
核心推理服务不可用、权限或审计异常导致业务中断、疑似数据泄露或越权访问事件。
P2 · 主要功能降级
核心功能可用但明显降级(如检索返回异常、批量任务失败、部分接口超时)。
P3 · 一般咨询、优化与文档问题
使用咨询、参数调整建议、文档缺失或表述不清、非阻断性优化需求。
赔偿上限与排除项
P1:赔偿以合同约定为准:按未达成的响应/恢复承诺计算,需在事件发生后 10 个工作日内提出申请并附事件记录;排除项内情形不计入。
P2:以工单系统记录为准;申请流程与排除项同 P1。
P3:按季度服务报告统计响应与解决情况。
运维服务模式与费用口径
运维费用占合同总价的 50%,按年度订阅;服务期内提供每年 2 次微调作业,针对上线时的模型应用场景做定向优化。下方九类工作内容均包含在运维服务范围内。
模型授权与整体价格不在此表内:由于训练的底座模型、训练数据规模、训练能力与微调周期各不相同,同类模型的价格无法准确估量;如需准确价格,请联系客服沟通具体需求、部署方式与并发规模。
故障分级响应时限、可用性统计口径、维护窗口与事故登记规则见 服务承诺与事故记录。
1. 故障响应与 SLA 保障
- P0/P1 紧急故障、P2 一般故障、P3 咨询类问题分级处理
- 约定响应时间、恢复时间与值班方式(7×24 或工作日支持)
- 应急处理、根因分析与复盘报告
- 关键服务可用性目标(如 99.9%),按业务重要性分级
2. 模型与推理服务运维
- 模型版本管理:记录来源、量化方式、部署参数与变更
- vLLM、Ollama、llama.cpp、SGLang 等引擎升级与参数调优
- 灰度发布与回滚:新版本异常时快速切回旧版本
- 并发、延迟、显存、队列长度监控;多模型共存调度避免抢卡
3. GPU 算力与基础设施运维
- GPU 驱动、CUDA、容器镜像、操作系统补丁维护
- 显存占用、GPU 利用率、温度、故障卡检测
- 节点扩容缩容与资源配额调整
- 存储、网络、向量库、数据库、对象存储等配套组件维护
4. 安全、权限与审计运维
- 账号、角色、租户、应用级权限管理
- 模型调用日志、提示词、知识库访问记录留存
- 敏感数据脱敏与越权访问告警
- 审计报表输出;接口鉴权、限流、防滥用策略维护
5. 效果优化与知识维护
- 提示词模板优化、参数调优、输出格式稳定性治理
- RAG 知识库更新、文档解析、向量库重建
- 问答准确率、召回质量、幻觉控制评估
- 每年 2 次针对行业应用场景的持续调优
6. 监控告警与可观测性
- 资源监控:CPU、内存、显存、GPU、磁盘、网络
- 服务监控:QPS、延迟、错误率、Token 消耗、排队长度
- 日志采集:推理、网关、审计、系统日志
- 告警规则:延迟过高、显存溢出、GPU 掉卡、接口异常、检索失败
7. 备份、容灾与变更管理
- 模型权重、知识库、配置文件、日志定期备份
- 灾难恢复演练,验证回滚与恢复流程
- 变更窗口管理,避开业务高峰期升级
- 升级前压测与回归验证
8. 使用培训与开发支持
- 接入文档、API 说明、调用示例
- 指导业务系统对接模型接口
- 支持 Agent 工具调用、工作流编排、知识库接入
- 内部团队使用培训与问题答疑
9. 成本与用量运营
- 按部门、应用、用户统计 Token 用量
- 设置配额、限流、预算告警
- 评估 GPU 利用率,避免资源空转
- 给出扩容或降配建议