无需自建推理集群
通过授权接口即可接入，减少算力采购与人力投入
DEPLOYMENT · OnvergeAi
模型托管
模型托管方案的适用条件、账户与条款审查要点、数据流向与退出安排，含需明确的子处理者。
部署方案 04
使用指定服务商的授权模型接口或专有资源，客户不自建推理集群，降低模型平台运维负担。适合缺少算法与平台运维团队、任务对模型自控要求不高，且可采购合规服务的场景。选择本方案须审查账户、SLA、数据处理、跨境、备案与退出安排，并明确子处理者清单。托管不等于数据与合规责任转移，数据分类分级与个人信息处理合法性仍由客户负责。
适用条件
缺少算法与平台运维团队，接受由服务商维护模型平台（无模型自运维需求）；条款、SLA 与数据处理安排可审查并可接受（可采购合规服务）；任务对模型自控与版本固定要求不高（可接受服务商版本节奏）；具备脱敏规则与出口控制，明确可外发的数据范围（可控制出口与脱敏）；可在合同中约定导出、删除与子处理者清单（有退出与子处理者约束）
不适用条件
需自持权重与版本锁定的场景应选择纯私有化（要求模型与权重完全自控）；不具备托管条件，应选择纯私有化（禁止数据离开本地且无法脱敏）；无法满足数据驻留与合规要求时不应选择本方案（存在无法满足的跨境或备案要求）；无法确认数据处理、保留与训练安排时不宜选择托管（无法审查服务条款）
数据在哪里
日志：服务商日志 + 本地外发记录（字段与保留期须确认）；模型文件：服务商环境（授权模型接口或专有资源）；备份：按服务商条款与本地策略（须确认导出与删除安排）；向量库：本地或服务商环境（须明确并支持导出）；网关：本地出口控制（统一鉴权与外发留痕）；知识库原文：本地或服务商环境（须明确原文与索引位置）
控制面在哪里
身份与权限：本地身份 + 服务商账号（双重管理）；更新：由服务商版本节奏决定（需变更通知）；许可证校验：由服务商负责或按条款核验；监控：服务商监控 + 本地审计
主要优势
无需自建推理集群与显存管理，减少人力投入（降低平台运维负担）；通过授权接口即可接入，缩短验证周期（上线较快）；模型版本迭代与容量弹性由服务商负责（版本与容量由服务商承担）；接口用量可计量，便于按项目核算成本（用量可计量）
主要限制
含跨境与退出安排，须在合同中明确（需审查账户、SLA 与数据处理）；变更需要通知机制，输出行为可能随版本变化（模型版本与行为受服务商控制）；备案与测评结论以主管部门与测评机构为准，服务商登记不替代客户自身责任（备案与登记责任需确认）；发送至服务商环境的数据须脱敏并限定为最小必要字段（数据外发范围须收敛）
数据与控制边界
托管不等于责任转移。下表是每个组件必须回答的位置与责任问题。
| 组件 | 位置与数据流向 | 责任划分 |
|---|---|---|
| 模型 | 部署在服务商环境，客户通过授权接口调用；版本与行为由服务商决定 | 服务商提供 · 客户授权使用 |
| 知识库与向量库 | 位置须明确：本地或服务商环境；索引须支持导出 | 双方明确 · 客户数据责任 |
| 本地出口网关 | 统一鉴权、脱敏与外发留痕，控制可外发的数据范围 | 服务商实现 · 客户承载 |
| 外部模型调用 | 仅发送脱敏后的最小片段与提示词，须客户批准且条款允许 | 客户审批 · 服务商受限执行 |
| 日志与审计 | 服务商侧日志按其条款保留，本地保留外发记录；字段与保留期须确认 | 双方约定 · 客户制度为准 |
| 账户与额度 | 服务商账号、额度与密钥按客户制度管理并支持轮换 | 客户持有 · 服务商配合 |
| 退出与删除 | 退出时导出调用记录与业务数据，按约定删除服务端数据并出具记录 | 书面约定 · 服务商执行 |
工程实现
按 3—5 周口径（视条款审查与集成复杂度）；含本地知识库对接或深度集成时取上限。
- 1
第 1 步：条款与边界评审（W1）
评审服务条款、SLA、数据处理、跨境与退出安排，形成子处理者清单
- 2
第 2 步：账号与额度准备（W1）
开通服务商账号与额度，配置密钥与访问控制
- 3
第 3 步：网关与出口集成（W1—W2）
配置本地出口网关、脱敏规则与鉴权，完成接口联通测试
- 4
第 4 步：知识库对接（W2—W3）
对接本地或服务商侧知识库，明确索引位置与权限过滤层
- 5
第 5 步：审计与退出验证（W3—W4）
配置外发日志字段与保留期，验证导出与删除路径可用
- 6
第 6 步：试运行与验收（W4—W5）
小范围试运行，执行可复跑验收脚本，输出功能、权限与审计结果
治理保障
托管能否被信任，取决于账户、条款、外发范围与退出安排是否被持续管理。
- 账户与额度最小化
- 按项目划分账号与额度，权限按需授予，离职转岗及时回收
- 条款与子处理者复核
- 按周期复核服务条款、数据处理与子处理者清单，变更时评估影响
- 外发范围控制
- 仅发送脱敏后的最小片段，超出范围调用须审批并留痕
- 日志与审计
- 本地记录调用、导出与权限变更，字段与保留期按客户制度执行
- 变更控制
- 服务商版本变更保持通知机制，生产变更走申请—评审—验证—回滚流程
- 退出与迁移
- 导出调用记录与业务数据，按约定删除服务端数据，客户可切换至本地或其它服务商
适用与限制
本方案适合什么、不适合什么，以及必须提前说清的限制。
- 适合什么情况
- 缺少算法与平台运维团队、任务对模型自控要求不高、可采购合规服务的组织
- 要求权重自控时不应托管
- 需自持权重与版本锁定的场景应选择纯私有化
- 备案与登记责任须先厘清
- 服务商登记不替代客户自身责任，结论以主管部门与测评机构为准
- 数据外发范围须收敛
- 发送至托管环境的数据须脱敏并限定最小必要字段
- 存在平台依赖
- 条款变更、可用性与模型行为不由本服务商控制，须在 SLA 中约定
成本与运维口径
托管成本以接口用量为主，须与实施服务费分开列示。
- 费用构成
- 接口使用费与实施服务费分开计价
- 按调用量计量
- 接口调用按用量计量，可设置额度与告警控制成本
- 运维投入
- 账号与额度管理、条款复核、外发监控与巡检需客户人力或服务商运维服务
- 实施周期
- 按 3—5 周口径，含条款审查或本地知识库对接时取上限
- 退出成本
- 导出、删除与迁移工作属单独事项，须提前在合同中约定
价值与选择建议
本方案以降低模型平台运维负担见长，但须明确不适用的情形。
上线较快
缩短验证周期，可先验证场景再决定是否本地化
用量可计量
接口用量与费用可计量，便于按项目核算与预算告警
什么情况下不选本方案
要求模型与权重完全自控、禁止数据离开本地且无法脱敏、存在无法满足的跨境或备案要求，或无法审查服务条款时，不宜选择模型托管
与本栏目其它方案的关系
若原文与向量库须留在本地且仅外发片段，可评估知识库本地化+外部模型；峰值不足时可评估混合部署
※ 以上为方案与控制边界说明，不构成对系统稳定性、效果或合规状态的承诺；实际范围以书面方案与合同为准。
数据流向
用户经本地网关完成身份与权限校验后，检索本地或服务商侧知识库，将脱敏后的最小片段与提示词通过授权接口送至服务商模型生成；输出回写前进入本地人工复核，通过后写入本地审计日志。账号、额度与密钥按客户制度管理，服务商侧的日志与数据保留按其条款执行，客户须确认导出与删除安排，跨境传输与子处理者清单在合同中明确。
- 1
第 1 步：用户请求经本地网关完成身份与权限校验
- 2
第 2 步：在本地或服务商侧知识库执行检索增强，确定候选片段
- 3
第 3 步：片段脱敏并最小化后，通过授权接口送至服务商模型
- 4
第 4 步：服务商模型生成结果，输出回写前进入本地人工复核
- 5
第 5 步：复核通过后回写本地知识库，并写入本地审计日志（含调用记录）
外部调用规则
按服务商条款调用授权模型接口；调用前须审查并确认账户、SLA、数据处理、跨境、备案与退出安排，并明确子处理者清单。发送至服务商环境的数据须先脱敏并限定为最小必要字段，禁止以明文传输客户秘密、凭证与密钥。服务商侧的数据保留、训练使用与删除安排须在合同中写明。
默认不得外发的数据
- · 未脱敏客户资料：避免扩大托管方数据范围，须脱敏后最小化外发
- · 客户秘密、凭证与密钥：不得以明文传输至外部服务
- · 高敏感与受控数据：案卷、政务、金融个人数据等未经评估不得送至托管环境
- · 未经批准的训练样本：不得用于服务商模型训练
- · 超出合同约定的跨境数据：不得传输至未列入子处理者清单的区域或服务
部署边界核对项（10 项，逐项书面确认）
1. 推理位置 — 模型推理在哪里完成？
为什么重要：托管意味着推理发生在服务商环境。
本方案默认：推理位置：服务商授权环境；地域：按条款确认
需客户逐项书面确认
2. 模型文件 — 权重、适配文件和镜像来自哪里？
为什么重要：客户不掌握权重，须核验服务商许可与版本机制。
本方案默认：来源：服务商提供；变更通知：需约定
需客户逐项书面确认
3. 向量数据 — 向量库部署在哪里？
为什么重要：需明确知识库是否也放在服务商侧。
本方案默认：向量库位置：客户环境（默认）；服务商知识库：默认不使用
需客户逐项书面确认
4. 原文存储 — 原始资料是否保留，保留在哪里？
为什么重要：原文不得因托管而扩散。
本方案默认：是否保留原文：客户环境；服务商侧保留：按数据处理条款
需客户逐项书面确认
5. 日志内容 — 提示词、输出、用户标识是否记录？
为什么重要：服务商侧记录范围不可见，必须以条款约束。
本方案默认：客户侧记录：元数据 + 片段摘要；服务商侧记录：按条款并需明确
需客户逐项书面确认
6. 日志保存 — 日志保留多长时间？
为什么重要：双方保留期需一致口径。
本方案默认：客户侧：30—90 天；服务商侧：按条款（建议 ≤30 天）
需客户逐项书面确认
7. 备份路径 — 备份是否跨域或上云？
为什么重要：备份可能包含输入输出记录。
本方案默认：客户侧备份：本地；服务商侧备份：按条款查清
需客户逐项书面确认
8. 远程访问 — 谁能访问，访问范围多大？
为什么重要：托管引入服务商侧运维访问。
本方案默认：服务商侧访问：按条款限定；客户侧远程通道：默认否
需客户逐项书面确认
9. 更新机制 — 更新是否需要联网？
为什么重要：托管方案由服务商主导更新。
本方案默认：服务商更新：按节奏并通知；客户侧更新：离线包/内网镜像
需客户逐项书面确认
10. 第三方调用 — 是否存在插件、搜索或外部 API？
为什么重要：托管方案常附带插件与搜索能力。
本方案默认：插件：默认关闭；联网搜索：默认关闭；子处理者：必须披露
需客户逐项书面确认
客户需提供
服务商账号与额度管理：客户；出口控制与脱敏规则：双方；服务条款、SLA 与子处理者审查：双方；跨境与数据驻留要求确认：客户；本地身份体系对接：客户
服务商职责
接口对接、出口控制与脱敏配置、账号与额度管理、审计记录、退出导出验证、验收脚本与培训。
退出路径
退出时导出调用记录与业务数据，按约定删除服务端数据并出具记录；客户可切换至本地模型或其它服务商。
费用口径
接口使用费与实施服务费分开计价，按调用量计量。
远程支持
提供远程支持，须经客户授权并限定操作范围；涉及服务商侧配置变更时配合客户执行。
方案边界说明
模型托管的边界在于账户、额度、日志、子处理者与退出时的导出与删除承诺；托管不等于数据与合规责任转移。数据分类分级、访问控制与个人信息处理合法性仍由客户负责；等保属建设与评估框架，备案与测评结论以主管部门与测评机构为准，服务商侧的登记或资质不替代客户自身责任。跨境传输与数据驻留要求须在采购前确认。服务商服务条款变更、可用性与模型行为不由本服务商控制，须在合同与 SLA 中约定。服务商对接口对接、出口控制与验收材料负责；对服务商平台可用性与业务结果不承担兜底责任。