OnvergeAi 临界AI
DEPLOYMENT · OnvergeAi

混合部署

混合部署的适用条件、数据面与控制面拆分方法、外部调用前置条件与禁止外发数据清单。

部署方案 03

核心数据与模型留在本地,仅将可脱敏任务经授权网关转发至外部模型,输出回写前须经本地人工复核。方案的核心是数据面与控制面拆分:数据面(用户、本地知识库、本地模型、日志与备份)留在本地,控制面(脱敏规则、外发审批、网关策略与审计)统一管理唯一外发出口。适合核心资料不外发、部分任务可脱敏外包,或本地算力峰值不足的场景。

适用条件

案卷、财务、学籍、政务等资料须留在本地环境(核心资料不外发);非敏感问答与常规文本处理可经脱敏后外发(部分任务可脱敏外包);高峰期需借用外部推理能力承接弹性负载(本地算力峰值不足);可执行字段脱敏、外发审批与回写复核流程(具备脱敏与审批能力);有指定角色对外部输出进行人工复核后再使用(可执行回写复核)

不适用条件

无脱敏规则、无审批流程时不应选择混合部署(不具备边界控制条件);若业务禁止数据离开本地应选择纯私有化(任务不允许任何外发);缺少人工复核资源时外发结果风险不可控(无法承担回写复核成本);数据面与控制面无法明确拆分时,混合部署失去控制意义(边界无法画清)

数据在哪里

日志:本地审计日志(含每次外发记录与审批留痕);模型文件:核心模型本地部署 + 授权外部模型(仅限可脱敏任务);备份:本地为主,跨域或上云备份需单独确认;向量库:本地向量库(索引可导出);网关:本地脱敏网关(唯一外发出口,控制面入口);知识库原文:本地存储,原文不出本地环境

控制面在哪里

身份与权限:本地身份与权限(数据面与控制面统一鉴权);更新:本地离线更新为主(是否联网需确认);许可证校验:本地或联网校验(是否联网需确认);监控:本地监控 + 外发审计(控制面统一观察)

主要优势

核心数据留在本地,峰值任务借用外部推理能力(兼顾控制与弹性);所有外发经唯一网关与审批,外发内容与结果可追溯(外发可审计);仅发送脱敏后的最小片段,降低外发数据量与风险面(片段可最小化);外部调用可关停,业务可切换回纯本地模式(可退回纯本地)

主要限制

数据面与控制面必须清晰拆分,边界不明确即失去控制意义(边界最复杂);漏项即造成外发失控,需持续维护脱敏规则与审批流程(脱敏与审批要求高);外部输出回写前须复核,需设计回写与回滚路径(回写与回滚控制);外部模型的条款与可用性变更会影响外发链路(依赖外部服务条款)

01

数据与控制边界

混合部署评审时最容易含糊的是“东西在哪、谁审批”。下表按数据面与控制面拆开回答。

组件位置与数据流向责任划分
本地知识库与向量库原文与索引本地存储,检索在本地完成,属数据面服务商实现 · 客户数据责任
本地模型优先由本地模型处理;仅在不满足外发条件时也作为回退路径服务商部署 · 客户环境承载
脱敏网关唯一外发出口,执行片段最小化、脱敏与审批校验,属控制面服务商实现 · 客户审批
外部模型仅接收脱敏后的最小片段与提示词;调用须五项条件同时满足客户审批 · 服务商受限执行
回写复核外部输出回写本地知识库前须经人工复核,未通过则丢弃或退回客户指定角色 · 服务商支持
日志与审计记录检索、外发内容、审批记录与回写复核,字段与保留期双方约定双方约定 · 客户制度为准
备份与远程本地为主,跨域或上云需单独确认;远程通道逐次授权并留痕客户授权 · 服务商执行
02

工程实现

按 6—10 周口径(视脱敏、审批与集成复杂度);含深度身份集成或智能体工作流时取上限。

  1. 1

    第 1 步:边界与数据流评审(W1)

    评审数据面与控制面拆分方案,逐项确认外发出口、禁止外发项与外发条件

    交付:数据流图定稿
  2. 2

    第 2 步:本地环境准备(W1—W2)

    核对服务器或算力、网络策略与依赖,建立资产台账

    客户输入:环境与网络
  3. 3

    第 3 步:本地部署与集成(W2—W4)

    部署本地模型、向量库与脱敏网关,接入客户身份体系,完成端到端联通测试

    交付:部署包 + 联通记录
  4. 4

    第 4 步:脱敏与审批流程(W3—W5)

    配置片段最小化、脱敏规则与外发审批节点,验证不满足条件时调用被阻断

    交付:脱敏规则 + 审批流程
  5. 5

    第 5 步:外发审计与回写控制(W5—W6)

    配置外发日志字段与保留期,实现外部输出回写前的人工复核与回滚路径

    交付:审计策略 + 回写控制
  6. 6

    第 6 步:备份与回退演练(W6—W7)

    完成备份恢复演练,并验证关停外部调用后回退为纯本地模式可用

    交付:演练记录
  7. 7

    第 7 步:试运行与验收(W7—W9)

    小范围试运行,执行可复跑验收脚本,输出功能、权限、外发审计与备份恢复结果

    交付:验收报告
  8. 8

    第 8 步:运维交接与培训(W9—W10)

    交付运维手册,培训审批、回写复核与告警处理流程

    交付:手册 + 培训记录
03

治理保障

混合部署能否被信任,取决于外发出口、审批、脱敏与回写是否被持续控制。

数据面与控制面分离
管理、监控与更新通道与业务数据通道分开,外发只经脱敏网关这一唯一出口机制:网络与账号隔离
外发审批与留痕
每次外发须有客户批准记录,外发内容、片段范围与审批人可回溯机制:外发授权单
脱敏与最小化
仅发送完成任务所需的最小字段,脱敏规则由双方维护并按周期复核机制:脱敏规则表
回写复核
外部输出回写本地知识库前经指定角色复核,未通过则丢弃或退回机制:复核记录
变更控制
生产变更走申请—评审—执行—验证—回滚流程,紧急变更事后补审留痕机制:变更单与回滚点
远程访问授权
远程支持限时限范围、逐次授权并留痕,不保留常驻高权限通道机制:远程授权单
退出与切换
支持关停外部调用并回退纯本地模式,导出本地索引与配置便于迁移机制:退出路径
04

适用与限制

本方案适合什么、不适合什么,以及必须提前说清的限制。

适合什么情况
核心资料不外发、部分任务可脱敏外包,或本地算力峰值不足的组织判断口径:数据边界 + 外发条件
外发条件不齐则不能外发
任务不允许、字段未脱敏、无客户批准、条款不允许或缺退出机制,任一不满足即不调用判断口径:五项条件同时满足
边界最复杂
数据面与控制面必须清晰拆分,缺脱敏或审批能力时不宜选择本方案口径:以数据流图为准
回写与回滚要求高
需配置回写复核与回滚路径,缺少复核资源时风险不可控口径:人工复核资源
依赖外部服务条款
外部模型的条款与可用性变更会影响外发链路,须保持通知机制口径:以合同与子处理者清单为准
05

成本与运维口径

费用分本地建设与外部调用两块,口径须分开列示。

费用构成
软件实施费与外部模型调用费分开计价,便于分项审批口径:分开计价
本地投入
本地算力、存储与网络由客户承担,按其采购与机房条件核算口径:按客户条件核算
外发用量
外部模型调用按计量核算,可设置额度与告警控制成本口径:按计量核算
运维投入
审批、脱敏规则维护、回写复核与巡检需客户人力或服务商运维服务口径:常设人力或服务包
实施周期
按 6—10 周口径,含脱敏、审批与深度集成时取上限口径:6—10 周
06

价值与选择建议

本方案以控制与弹性兼顾见长,但须明确不适用的情形。

核心数据留在本地

原文与本地模型留在客户环境,仅脱敏最小片段离开本地

机制:数据面本地化

外发可审计

外发内容、审批记录与回写复核全程留痕,便于向审计说明

交付:外发审计记录

峰值可借用外部算力

在不越界的前提下借用外部推理能力承接峰值,降低本地扩容压力

机制:受控外发

什么情况下不选本方案

不具备脱敏与审批能力、任务禁止任何外发、缺少回写复核资源,或数据面与控制面无法明确拆分时,不宜选择混合部署

建议:改评估纯私有化

与本栏目其它方案的关系

若只需外部推理而无需本地模型可评估模型托管;若原文与索引必须全部留在本地应评估纯私有化

建议:按数据边界选择

※ 以上为方案与控制边界说明,不构成对系统稳定性、效果或合规状态的承诺;实际范围以书面方案与合同为准。

数据流向

默认数据流向为:用户 → 本地权限校验 → 本地知识检索 → 片段最小化 → 脱敏审批 → 外部模型 → 结果进入本地人工复核 → 本地审计与知识库。数据面(用户、本地知识库、本地模型、日志与备份)留在本地;控制面(脱敏规则、审批、网关策略与审计)统一管理唯一外发出口。仅当任务允许外发、字段已脱敏、客户明确批准、服务条款与数据处理安排允许且存在退出机制时,才发起外部调用。

  1. 1

    第 1 步:用户请求在本地完成身份与权限校验(数据面入口)

  2. 2

    第 2 步:在本地知识库执行检索增强,获取候选片段(数据面)

  3. 3

    第 3 步:对片段做最小化处理,仅保留完成任务所需字段(控制面规则)

  4. 4

    第 4 步:按脱敏规则脱敏并提交外发审批,审批不通过即改用本地模型处理(控制面)

  5. 5

    第 5 步:仅在五项条件同时满足时,经唯一脱敏网关转发至外部模型

  6. 6

    第 6 步:外部模型输出回写前进入本地人工复核,未通过则丢弃或退回(数据面)

  7. 7

    第 7 步:复核通过的结果回写本地知识库,并写入本地审计日志(含外发记录)

外部调用规则

外部模型仅在以下五项条件同时满足时调用:任务允许外发、字段已脱敏、客户明确批准、服务条款与数据处理安排允许、存在模型/提示/输出及日志的退出机制。任一条件不满足即不发起调用。所有外发须经本地脱敏网关这一唯一出口,外发内容、审批记录与回写复核均须留痕、可审计;外部调用可随时关停并切换回纯本地模式。

默认不得外发的数据

  • · 完整案卷、合同与原始个人数据:不得整体外发,仅可在本地处理
  • · 未脱敏金融、学籍、政务数据:未经脱敏与批准不得外发
  • · 客户秘密、凭证与密钥:任何情况下不得外发
  • · 内部工具操作结果:可能包含系统信息,默认不外发
  • · 审批未通过或脱敏不完整的片段:条件不齐即不得外发
  • · 未经批准的训练样本:不得外发用于外部训练

部署边界核对项(10 项,逐项书面确认)

1. 推理位置 — 模型推理在哪里完成?

为什么重要:核心数据是否离开本地取决于推理位置分配策略。

本方案默认:推理位置:默认本地,白名单任务可外部;切换规则:按任务白名单与审批

需客户逐项书面确认

2. 模型文件 — 权重、适配文件和镜像来自哪里?

为什么重要:本地与外部两侧的模型来源与许可都需核验。

本方案默认:本地模型来源:官方渠道/内网镜像;外部模型来源:授权服务商(需条款审查)

需客户逐项书面确认

3. 向量数据 — 向量库部署在哪里?

为什么重要:向量索引包含原文语义信息,是控制重点。

本方案默认:向量库位置:仅本地;是否外发向量:禁止

需客户逐项书面确认

4. 原文存储 — 原始资料是否保留,保留在哪里?

为什么重要:原文默认不外发是混合方案的前提。

本方案默认:是否保留原文:本地保留;原文外发:禁止

需客户逐项书面确认

5. 日志内容 — 提示词、输出、用户标识是否记录?

为什么重要:外发环节必须可审计。

本方案默认:外发记录:记录片段摘要与审批人;提示词全文:不记录

需客户逐项书面确认

6. 日志保存 — 日志保留多长时间?

为什么重要:外发审计需要更长保留期以便追溯。

本方案默认:外发审计日志:180 天;本地审计日志:90 天

需客户逐项书面确认

7. 备份路径 — 备份是否跨域或上云?

为什么重要:备份可能携带核心数据离开本地。

本方案默认:备份位置:本地/机房内异机;跨域备份:默认否

需客户逐项书面确认

8. 远程访问 — 谁能访问,访问范围多大?

为什么重要:混合架构的远程访问风险更高(本地+外部)。

本方案默认:是否开通:默认否;外部模型密钥管理:客户或双方共管

需客户逐项书面确认

9. 更新机制 — 更新是否需要联网?

为什么重要:本地与外部两侧的更新节奏不同。

本方案默认:本地更新:离线包/内网镜像;外部模型更新:服务商通知 + 回归测试

需客户逐项书面确认

10. 第三方调用 — 是否存在插件、搜索或外部 API?

为什么重要:混合架构中第三方调用是主要外联出口。

本方案默认:联网搜索:默认关闭;插件:默认关闭;遥测:关闭;外部 API:仅审批通过的模型调用

需客户逐项书面确认

客户需提供

本地环境与网络策略:客户;脱敏规则与审批流程:双方;外发审批责任人与权限:客户;外部服务条款与子处理者审查:双方;回写复核人力资源:客户

服务商职责

架构与网关设计、数据面与控制面拆分落地、脱敏与审批流程配置、外发审计与回写控制、回滚验证、验收脚本与培训。

退出路径

支持外发日志导出与外部调用关停;可按要求切换为纯本地模式,并导出本地索引与配置,便于迁移或自维护。

费用口径

软件实施费与外部模型调用费分开计价,外发用量按计量核算。

远程支持

提供远程支持,须逐次授权并限定时间窗与操作范围;外发与网关相关变更须经客户审批后执行。

方案边界说明

混合部署的核心是数据面与控制面的拆分:脱敏网关是唯一外发出口,外发内容、审批记录与回写复核必须可审计。需要说明的是,混合部署不因部分组件本地部署而自动等于合规,仍须完成数据分类分级、访问控制与个人信息处理合法性评估;等保属建设与评估框架,备案与测评结论以主管部门与测评机构为准。外部模型的条款、可用性与数据处理安排不由本服务商控制,跨境传输与子处理者清单须在合同中明确。服务商对部署实施、脱敏与审批流程落地、外发审计配置负责;对客户审批决策与外部服务可用性不承担兜底责任。

先做一次 30 分钟的需求梳理

说出你的行业、数据边界与预算区间,我们在 1 个工作日内给出可验证的下一步。