OnvergeAi 临界AI
DEPLOYMENT · OnvergeAi

纯私有化部署

纯私有化部署的适用条件、数据面与控制面位置、优势限制、数据流向与边界定义,附 10 项边界核对。

部署方案 01

模型权重、知识库、应用、网关、日志与备份均部署在客户指定环境,默认最小化外联,便于审计与版本控制。适用于高敏感数据、稳定负载、具备机房与运维能力且要求长期可控的场景。选择本方案的前提是逐项定义部署位置与控制边界:私有化是控制边界,不自动等于合规,也不能替代安全测评、数据分类分级与访问控制。更新、校验、遥测、远程运维与备份等可能外联的环节须在边界核对表中逐项书面确认。

适用条件

案卷、财务、学籍、政务等资料需留在客户环境内处理(高敏感数据);用户数与并发规模可预估,峰值不依赖外部弹性(稳定负载);客户有机房、电力、制冷与专职运维人员(具备运维能力);模型版本、知识库与日志需可审计、可回滚(长期可控要求);可接受离线更新与内网校验,能逐项确认联网环节(外联可收敛)

不适用条件

可先选纯云端或模型托管,避免先投入机房与算力(短期试点且无本地环境);可评估混合部署,用外部推理承接峰值负载(弹性峰值高且预算有限);需先补齐环境与运维前置条件再评估本方案(缺少机房与运维条件);本方案不承载原文整体外发的业务模式(要求将核心资料整体送至外部模型)

数据在哪里

日志:客户指定环境(本地审计日志,字段与保留期双方约定);模型文件:客户指定环境(本地推理,权重与适配文件由客户环境承载);备份:客户指定备份路径(是否跨域或上云需逐项确认);向量库:客户指定环境(向量库本地部署,索引可导出);网关:客户指定环境(统一鉴权、限流与审计的唯一入口);知识库原文:客户指定环境(原文与索引本地存储)

控制面在哪里

身份与权限:客户本地身份与目录服务(AD/LDAP/SSO 对接);更新:离线或内网更新通道(是否联网需确认);许可证校验:离线或内网校验(是否联网需确认);监控:客户监控体系(告警与巡检由客户一线执行)

主要优势

数据与模型位置明确,便于向审计说明数据流向(默认最小化外联);模型、知识库与日志可版本锁定、可回滚、可追溯(便于版本与审计);外联出口与禁止外发项逐项书面确认,形成可签署清单(边界可核对);交付配置与手册后客户技术团队可自行巡检与升级(系统可被接管)

主要限制

含服务器或算力、机房改造、电力与制冷成本(初始投入较高);扩容、故障处置与备份恢复需客户运维能力与预算支撑(运维责任在客户);联网搜索与插件、软件更新、许可证校验、遥测、远程运维、日志导出、云备份、第三方 API、移动端上传等环节需逐项确认(仍可能存在外联);峰值负载下的并发与响应受本地硬件规格限制(能力上限受本地算力约束)

01

数据与控制边界

评审时最容易含糊的是“东西在哪、谁负责”。下表是每个组件必须回答的问题。

组件位置与数据流向责任划分
模型与权重推理在客户指定环境完成;权重与适配文件随部署包交付,更新走离线或内网通道服务商部署 · 客户环境承载
知识库与向量库原文与向量索引本地存储,索引可导出;权限过滤在本地检索层执行服务商实现 · 客户数据责任
身份与权限对接客户 AD/LDAP/SSO,角色按最小权限分配,离职转岗及时回收客户账号体系 · 服务商对接
网关统一鉴权、限流与审计的唯一入口,业务数据不绕过网关服务商实现 · 客户承载
日志与审计记录登录、检索、导出与权限变更;字段与保留期按客户制度约定双方约定 · 客户制度为准
备份与恢复备份对象含模型、索引、配置与日志;是否跨域或上云需逐项确认服务商方案 · 客户存储资源
远程与更新远程通道逐次授权、限时限范围;更新是否需要联网需确认客户授权 · 服务商执行
02

工程实现

按 4—8 周口径(视集成复杂度与安全要求);含深度身份集成时取上限。

  1. 1

    第 1 步:设计评审(W1)

    与客户 IT/安全评审架构与部署边界图,逐项确认数据流向、外联出口与禁止外发项

    交付:边界图定稿
  2. 2

    第 2 步:环境准备(W1—W2)

    核对服务器或算力、操作系统、依赖与网络策略,建立资产台账

    客户输入:环境与网络
  3. 3

    第 3 步:部署与集成(W2—W4)

    部署模型、向量库与网关,接入客户身份体系,完成端到端联通测试

    交付:部署包 + 联通记录
  4. 4

    第 4 步:权限与审计(W3—W4)

    配置角色与最小权限、服务账号与密钥、日志字段与保留期,验证越权访问被拦截

    交付:权限矩阵 + 审计策略
  5. 5

    第 5 步:备份与恢复演练(W4)

    按方案执行备份并完成一次恢复演练,记录恢复耗时与发现的问题

    交付:演练记录
  6. 6

    第 6 步:试运行与验收(W5—W6)

    小范围试运行,执行可复跑验收脚本,输出功能、权限、日志与备份恢复结果

    交付:验收报告
  7. 7

    第 7 步:运维交接与培训(W6—W7)

    交付运维手册,培训巡检、告警与变更流程,明确一线/二线支持路径

    交付:手册 + 培训记录
03

治理保障

部署完成后,系统能否长期被信任,取决于以下常设控制。

控制面与数据面分离
管理、监控与更新通道与业务数据通道分开,避免运维通道成为数据外泄路径机制:网络与账号隔离
最小权限与定期复核
权限按需授予并按周期复核,服务账号不共享,离职转岗及时回收机制:权限复核记录
变更控制
生产变更走申请—评审—执行—验证—回滚流程,紧急变更事后补审留痕机制:变更单与回滚点
日志与审计
记录登录、检索、导出、权限变更与远程操作,字段与保留期按客户制度执行机制:审计记录
远程访问授权
远程支持限时限范围、逐次授权并留痕,不保留常驻高权限通道机制:远程授权单
内容与输出标识
对生成合成内容按规范做显式或隐式标识,对外发布链路保留可追溯信息机制:标识与追溯
退出与迁移
配置、索引与数据以可导出形式交付,终止合作可迁移或由客户自维护机制:退出路径
04

适用与限制

本方案适合什么、不适合什么,以及必须提前说清的限制。

适合什么情况
高敏感数据、稳定负载、有本地机房与运维能力、要求长期可控与可审计的组织判断口径:数据敏感度 + 运维能力
数据敏感度较低时不必强上
非敏感、可公开的资料无需一定本地部署,可先评估纯云端或模型托管判断口径:最小必要
初始投入与运维责任较高
含算力、机房改造、电力、制冷与专职运维,需明确预算与人员口径:一次性投入 + 常设运维
仍可能存在外联环节
更新、校验、遥测、远程运维、备份与第三方 API 等须逐项确认口径:以边界核对表为准
能力上限受本地硬件约束
峰值并发与响应速度受本地算力规格限制,扩容需追加硬件口径:按实测容量规划
05

成本与运维口径

费用与服务边界分开列示,便于分项审批与验收。

费用构成
软件实施费、硬件或算力费用、运维服务费分开计价口径:分开计价
硬件与机房
服务器或算力、机柜、电力与制冷由客户承担口径:按客户采购与机房条件核算
运维投入
日常巡检、告警处理、备份恢复与版本升级需客户运维人员或服务商运维服务口径:常设人力或服务包
实施周期
按 4—8 周口径,含深度身份集成或智能体工作流时取上限口径:4—8 周
升级与扩容
版本升级与扩容按变更流程执行,跨域备份或上云需单独确认与计费口径:按变更单执行
06

价值与选择建议

本方案的价值在于边界可核对、系统可被接管,同时须明确不适用的情形。

边界可向审计说明

数据流向、外联出口与禁止外发项均有书面确认,面对内部审计或监管问询时可出示材料

交付:边界图 + 确认记录

系统可被接管

配置、脚本与手册交付后,客户技术团队可自行巡检、备份与升级,不形成人身依赖

交付:运维手册 + 培训

故障可定位

日志、变更记录与回滚点齐备,故障处置从猜测变为按记录排查

机制:审计与回滚

什么情况下不选本方案

短期试点且无本地环境、弹性峰值高而预算有限、缺少机房与运维条件,或要求把核心资料整体送至外部模型时,不宜优先选择纯私有化

建议:改评估纯云端、混合部署或模型托管

与本栏目其它方案的关系

本地知识敏感但算力不足可评估混合部署或知识库本地化+外部模型;仅需外部推理能力可评估模型托管

建议:按数据边界选择

※ 以上为方案与控制边界说明,不构成对系统稳定性、效果或合规状态的承诺;实际范围以书面方案与合同为准。

数据流向

用户请求先在本地完成身份与权限校验,再在本地知识库内做检索增强;检索到的片段经最小化后送入本地模型生成,输出进入本地人工复核环节,复核通过后回写本地知识库并写入本地审计日志。全流程默认不跨越客户环境边界;更新、校验、遥测、远程运维与备份等潜在外联环节在边界核对表中逐项标注并书面确认。

  1. 1

    第 1 步:用户发起请求,在本地网关完成身份与权限校验,未通过则拒绝并记录

  2. 2

    第 2 步:在权限范围内于本地知识库执行检索增强,返回候选片段

  3. 3

    第 3 步:片段最小化后与提示词一并送入本地模型生成,全程不跨越客户环境边界

  4. 4

    第 4 步:生成结果进入本地人工复核环节,由指定角色按规则确认或退回修改

  5. 5

    第 5 步:复核通过的结果回写本地知识库,并写入本地审计日志,记录字段与保留期按双方约定

外部调用规则

本方案默认不调用外部模型,也不默认开启联网搜索与插件。若后续业务需要外联,须同时满足:任务允许外发、字段已脱敏、客户明确批准、服务条款与数据处理安排允许、且存在模型、提示、输出与日志的退出机制。任一条件不满足即不发起调用;所有外发须经唯一出口并留痕,便于事后审计。

默认不得外发的数据

  • · 完整案卷、合同与原始个人数据:默认不得外发,仅可在客户环境内处理
  • · 未脱敏金融、学籍、政务数据:属受控数据,未经批准不得离开客户环境
  • · 客户秘密、凭证与密钥:任何情况下不得传输至外部服务
  • · 内部工具操作结果与系统信息:可能暴露环境细节,默认不外发
  • · 未经批准的训练样本:缺乏合法基础,不得用于外部训练或上传

部署边界核对项(10 项,逐项书面确认)

1. 推理位置 — 模型推理在哪里完成?

为什么重要:推理位置决定提示词与输出是否离开客户环境。

本方案默认:推理位置:客户指定环境;云端回退:无

需客户逐项书面确认

2. 模型文件 — 权重、适配文件和镜像来自哪里?

为什么重要:来源影响许可、版本可复现性与更新路径。

本方案默认:来源:官方渠道/内网镜像(按项目确认);哈希:提供并留存

需客户逐项书面确认

3. 向量数据 — 向量库部署在哪里?

为什么重要:向量库承载语义索引,位置与删除方式与原文同等重要。

本方案默认:向量库位置:客户指定环境;加密:启用;删除方式:按文档/知识库维度删除并重建

需客户逐项书面确认

4. 原文存储 — 原始资料是否保留,保留在哪里?

为什么重要:原文保留与否直接影响风险面与删除义务。

本方案默认:是否保留原文:保留(客户只读区);保留期限:按合同约定

需客户逐项书面确认

5. 日志内容 — 提示词、输出、用户标识是否记录?

为什么重要:日志是审计基础,也是潜在数据资产。

本方案默认:提示词:不记录全文;模型输出:按需记录摘要;用户标识:记录

需客户逐项书面确认

6. 日志保存 — 日志保留多长时间?

为什么重要:保留期过长积累风险,过短影响审计。

本方案默认:审计日志:90 天;推理日志:30 天

需客户逐项书面确认

7. 备份路径 — 备份是否跨域或上云?

为什么重要:备份可能把本地数据复制到控制范围之外。

本方案默认:备份位置:客户本地/机房内异机;是否跨域上云:默认否

需客户逐项书面确认

8. 远程访问 — 谁能访问,访问范围多大?

为什么重要:远程运维是最常见的外联通道。

本方案默认:是否开通:默认否;访问范围:单次审批后限定范围

需客户逐项书面确认

9. 更新机制 — 更新是否需要联网?

为什么重要:更新过程可能连接外部仓库或校验服务。

本方案默认:更新方式:离线包;更新源:客户内网;回滚:提供回滚包

需客户逐项书面确认

10. 第三方调用 — 是否存在插件、搜索或外部 API?

为什么重要:第三方调用常形成未登记的数据与访问边界。

本方案默认:插件:关闭;联网搜索:关闭;遥测:关闭;外部 API:默认关闭

需客户逐项书面确认

客户需提供

服务器或算力与网络策略:客户;机房、电力与制冷:客户;身份与账号体系(AD/LDAP/SSO)对接方式:客户;运维与安全制度、变更流程:客户;备份空间与恢复策略:客户

服务商职责

架构与部署边界设计、部署实施与集成(模型、知识库、网关、身份)、权限与审计配置、备份恢复演练、验收脚本与培训;环境、网络与机房由客户保障。

退出路径

交付包含配置、索引与数据的可导出形式;项目结束或终止合作时,按约定返还或删除数据并出具记录,客户可迁回自建环境或更换服务商。

费用口径

软件实施费与硬件费、服务费分开计价;硬件与机房投入单独核算。

远程支持

提供远程支持,须逐次书面授权、限定时间窗与操作范围并全程留痕;不保留常驻高权限通道。

方案边界说明

需要说明的是,私有化是对数据与模型部署位置、控制边界的约定,本身不自动等于合规,也不能替代安全测评、访问控制、数据分类分级与个人信息处理合法性审查。即使推理在本地,仍可能有环节产生外联:联网搜索与插件、软件更新、许可证校验、遥测、远程运维、日志导出、云备份、第三方 API、移动端上传等,均须在部署边界图中逐项确认。等保属建设与评估框架,备案与测评结论以主管部门与测评机构为准。服务商对部署实施、配置交付与验收材料负责;对客户环境稳定性、第三方服务可用性与业务结果不承担兜底责任。

先做一次 30 分钟的需求梳理

说出你的行业、数据边界与预算区间,我们在 1 个工作日内给出可验证的下一步。