OnvergeAi 临界AI
DEPLOYMENT · OnvergeAi

本地知识库+外部模型

本地知识库配合外部模型的适用条件、片段最小化与外发审批规则、禁止外发数据与审计要求。

部署方案 05

向量库、原文与权限控制留在本地,仅在授权范围内把脱敏后的片段与提示词发往外部模型,输出回写前须经本地复核。适合本地知识敏感、本地算力不足且任务可脱敏的场景。方案保留对知识资产的控制,同时利用外部推理能力;片段外发、模型输出回写、日志与供应商策略均须受控,并须逐项确认外发审批与退出机制。

适用条件

原文与索引须留在本地环境,不得整体外发(本地知识敏感);推理能力有限,需借助外部模型完成任务(本地算力不足);可将资料拆分为可外发的最小脱敏片段(任务可脱敏);可执行片段最小化、脱敏、审批与回写复核(具备外发治理能力);外部模型条款、保留与训练使用安排可审查并写入合同(可约束供应商策略)

不适用条件

若禁止数据离开本地应选择纯私有化(任务不允许任何外发);外发不受控时不应采用本方案(无法完成片段脱敏与审批);应选择纯私有化,而非调用外部模型(需要模型与权重完全自控);缺少人工复核时外部输出回写风险不可控(无回写复核资源)

数据在哪里

日志:本地审计日志(含片段外发记录与审批留痕);模型文件:外部模型(仅接收脱敏后的最小片段);备份:本地为主,跨域或上云备份需单独确认;向量库:本地向量库与索引(可导出);网关:本地脱敏网关(唯一外发出口);知识库原文:本地存储,原文不出本地环境

控制面在哪里

身份与权限:本地身份与权限(检索与向量库本地管控);更新:本地离线更新为主(是否联网需确认);许可证校验:本地或联网校验(是否联网需确认);监控:本地监控 + 外发审计

主要优势

原文与向量库留在本地,知识资产不整体外流(保留知识控制);在本地算力不足时借用外部模型完成任务(利用外部推理能力);仅发送脱敏后的最小片段,降低外发数据量与风险面(外发可最小化);可停用外部模型并回退为本地处理(外发可关停)

主要限制

片段最小化、脱敏与审批漏项即造成外发失控(片段外发须严格控制);外部模型输出回写本地知识库前须经人工复核(输出回写须复核);外部模型的条款、保留与训练使用安排影响整体控制(依赖供应商策略);本地检索、外发片段与审批记录须完整留存以便审计(日志需覆盖外发链路)

01

数据与控制边界

本方案只让片段出去,不让知识库出去。下表是每个组件必须回答的位置与责任问题。

组件位置与数据流向责任划分
本地知识库与向量库原文与索引本地存储并可导出,检索在本地完成服务商实现 · 客户数据责任
脱敏网关唯一外发出口,执行片段最小化、脱敏与审批校验服务商实现 · 客户审批
外部模型仅接收脱敏后的最小片段与提示词,不接收完整原文客户审批 · 服务商受限执行
回写复核外部输出回写本地知识库前须经人工复核,未通过则丢弃或退回客户指定角色 · 服务商支持
日志与审计记录检索、外发片段、审批记录与回写复核,字段与保留期双方约定双方约定 · 客户制度为准
备份与远程本地为主,跨域或上云需单独确认;远程通道逐次授权并留痕客户授权 · 服务商执行
供应商策略外部模型的条款、保留与训练使用安排须审查并写入合同双方约定 · 以合同为准
02

工程实现

按 5—8 周口径(视知识库建设与脱敏、审批复杂度);含深度集成或智能体工作流时取上限。

  1. 1

    第 1 步:边界与数据流评审(W1)

    评审片段外发边界与回写路径,逐项确认外发条件与禁止外发项

    交付:数据流图定稿
  2. 2

    第 2 步:本地知识库建设(W1—W3)

    部署本地向量库与原文存储,完成索引构建与权限过滤配置

    客户输入:资料与权限范围
  3. 3

    第 3 步:脱敏网关与片段最小化(W2—W4)

    实现片段最小化、脱敏规则与外发审批校验,不满足条件时阻断调用

    交付:脱敏规则 + 网关配置
  4. 4

    第 4 步:外部模型对接(W3—W5)

    对接外部模型授权接口,配置鉴权、额度与错误处理

    交付:对接说明 + 联通记录
  5. 5

    第 5 步:外发审计与回写控制(W5—W6)

    配置外发日志字段与保留期,实现回写前人工复核与回滚路径

    交付:审计策略 + 回写控制
  6. 6

    第 6 步:备份与回退演练(W6—W7)

    完成本地备份恢复演练,并验证关停外部调用后回退本地处理可用

    交付:演练记录
  7. 7

    第 7 步:试运行与验收(W7—W8)

    小范围试运行,执行可复跑验收脚本,输出功能、权限、外发审计与回写结果

    交付:验收报告
03

治理保障

知识库留在本地只是起点,片段外发、审批与回写是否受控才决定系统能否被信任。

知识与外发分离
原文与向量库留在本地,外发只经脱敏网关这一唯一出口机制:网络与账号隔离
片段最小化与脱敏
仅发送完成任务所需的最小字段,脱敏规则由双方维护并按周期复核机制:脱敏规则表
外发审批与留痕
每次外发须有客户批准记录,外发片段范围与审批人可回溯机制:外发授权单
回写复核
外部输出回写本地知识库前经指定角色复核,未通过则丢弃或退回机制:复核记录
供应商策略复核
按周期复核外部模型条款、保留与训练使用安排,变更时评估影响机制:条款复核记录
变更控制
生产变更走申请—评审—执行—验证—回滚流程,紧急变更事后补审留痕机制:变更单与回滚点
退出与切换
支持关停外部调用并回退本地处理,导出本地索引与配置便于迁移机制:退出路径
04

适用与限制

本方案适合什么、不适合什么,以及必须提前说清的限制。

适合什么情况
原文与向量库须留在本地、本地算力不足,且任务可脱敏的组织判断口径:知识敏感度 + 可脱敏性
禁止外发时不适用
若业务不允许任何数据离开本地应选择纯私有化判断口径:外发允许范围
片段治理不可省
片段最小化、脱敏与审批漏项即造成外发失控口径:以脱敏规则与审批流程为准
回写复核要求高
外部输出回写本地知识库前须复核,缺少复核资源时风险不可控口径:人工复核资源
依赖供应商策略
外部模型条款、保留与训练使用安排影响整体控制,须保持通知机制口径:以合同与条款复核为准
05

成本与运维口径

费用分本地知识库建设与外部调用两块,口径须分开列示。

费用构成
软件实施费、本地知识库建设费与外部模型调用费分开计价口径:分开计价
本地投入
本地算力、存储与网络由客户承担,按其采购与机房条件核算口径:按客户条件核算
外发用量
外部模型调用按计量核算,可设置额度与告警控制成本口径:按计量核算
运维投入
知识库维护、脱敏规则、审批与回写复核需客户人力或服务商运维服务口径:常设人力或服务包
实施周期
按 5—8 周口径,含知识库建设与深度集成时取上限口径:5—8 周
06

价值与选择建议

本方案以保留知识控制并借用外部推理能力见长,但须明确不适用的情形。

知识资产不外流

原文与向量库留在本地,只有脱敏最小片段离开本地环境

机制:本地知识库

借用外部推理能力

本地算力不足时借助外部模型完成任务,降低本地扩容压力

机制:受控外发

外发与回写可审计

外发片段、审批记录与回写复核全程留痕,便于向审计说明

交付:外发审计记录

什么情况下不选本方案

任务禁止任何外发、无法完成片段脱敏与审批、要求模型与权重完全自控,或缺少回写复核资源时,不宜选择本方案

建议:改评估纯私有化

与本栏目其它方案的关系

若需同时借用本地模型承接峰值可评估混合部署;若仅需外部推理且知识库可上云可评估模型托管

建议:按数据边界选择

※ 以上为方案与控制边界说明,不构成对系统稳定性、效果或合规状态的承诺;实际范围以书面方案与合同为准。

数据流向

用户请求在本地完成权限校验与知识检索,片段经最小化与脱敏后提交外发审批;仅在条件满足时将脱敏片段与提示词发往外部模型生成,输出回写前进入本地人工复核,通过后回写本地知识库并写入本地审计日志。原文与向量库始终留在本地,仅授权的最小片段离开本地环境,外发内容与审批记录全程留痕。

  1. 1

    第 1 步:用户请求在本地完成身份与权限校验(本地知识库入口)

  2. 2

    第 2 步:在本地向量库执行检索增强,获取候选片段

  3. 3

    第 3 步:片段最小化仅保留必要字段,并按规则脱敏后提交外发审批

  4. 4

    第 4 步:仅在满足外发条件时,经本地脱敏网关将片段与提示词发往外部模型

  5. 5

    第 5 步:外部模型输出回写前进入本地人工复核,未通过则丢弃或退回

  6. 6

    第 6 步:复核通过的结果回写本地知识库,并写入本地审计日志(含外发记录)

外部调用规则

外部模型仅在五项条件同时满足时调用:任务允许外发、字段已脱敏、客户明确批准、服务条款与数据处理安排允许、存在模型/提示/输出及日志的退出机制。仅授权的最小片段可外发,完整原文与未脱敏数据不出本地。所有外发经本地脱敏网关这一唯一出口并留痕,外部调用可关停并回退本地处理。

默认不得外发的数据

  • · 知识库完整原文与索引:留在本地,不得整体外发
  • · 未脱敏金融、学籍、政务数据:未经脱敏与批准不得外发
  • · 客户秘密、凭证与密钥:任何情况下不得外发
  • · 未通过审批的片段:条件不齐即不得外发
  • · 未经批准的训练样本:不得外发用于外部训练

部署边界核对项(10 项,逐项书面确认)

1. 推理位置 — 模型推理在哪里完成?

为什么重要:检索在本地、生成在外部是本方案特征。

本方案默认:检索位置:本地;生成位置:外部授权模型

需客户逐项书面确认

2. 模型文件 — 权重、适配文件和镜像来自哪里?

为什么重要:本地无权重时,须核验外部模型许可与版本。

本方案默认:本地组件来源:官方渠道/内网镜像;外部模型:授权服务商

需客户逐项书面确认

3. 向量数据 — 向量库部署在哪里?

为什么重要:向量包含原文语义,不得外发。

本方案默认:向量库位置:本地;向量/原文外发:禁止

需客户逐项书面确认

4. 原文存储 — 原始资料是否保留,保留在哪里?

为什么重要:原文不出本地是本方案的核心承诺。

本方案默认:是否保留原文:本地只读存储;原文外发:禁止

需客户逐项书面确认

5. 日志内容 — 提示词、输出、用户标识是否记录?

为什么重要:外发片段必须可审计,但审计本身不应扩大风险。

本方案默认:外发记录:元数据 + 片段摘要;提示词全文:不记录

需客户逐项书面确认

6. 日志保存 — 日志保留多长时间?

为什么重要:检索与外发记录需在保留期与风险之间平衡。

本方案默认:外发审计日志:180 天;检索日志:90 天

需客户逐项书面确认

7. 备份路径 — 备份是否跨域或上云?

为什么重要:备份可能携带原文与向量。

本方案默认:备份位置:本地/机房内;加密:必须启用

需客户逐项书面确认

8. 远程访问 — 谁能访问,访问范围多大?

为什么重要:本地检索组件与外部模型账号均需控制访问。

本方案默认:本地远程通道:默认否;外部模型密钥:客户/共管

需客户逐项书面确认

9. 更新机制 — 更新是否需要联网?

为什么重要:本地检索组件更新与外部模型更新节奏不同。

本方案默认:本地更新:离线包/内网镜像;外部模型更新:通知 + 回归测试

需客户逐项书面确认

10. 第三方调用 — 是否存在插件、搜索或外部 API?

为什么重要:外部模型调用是唯一必要出口,其余应默认关闭。

本方案默认:外部模型 API:唯一出口;联网搜索:关闭;插件:关闭

需客户逐项书面确认

客户需提供

本地知识与向量库环境:客户;片段脱敏规则与审批流程:双方;外发审批责任人与权限:客户;回写复核人力资源:客户;外部模型服务条款审查:双方

服务商职责

本地知识库与向量库部署、脱敏网关与片段最小化实现、外发审计与回写控制、回退验证、验收脚本与培训。

退出路径

支持导出本地索引、配置与外发日志,并关停外部调用;终止合作可切换为纯本地处理或更换外部模型。

费用口径

软件实施费、本地知识库建设费与外部模型调用费分开计价。

远程支持

提供远程支持,须逐次授权并限定时间窗与操作范围;外发与网关相关变更须经客户审批后执行。

方案边界说明

知识库本地化+外部模型的关键在于:原文与向量库留在本地,仅授权的最小脱敏片段离开本地环境,且外发与回写全程留痕。需要说明的是,本地部署不自动等于合规,仍须完成数据分类分级、访问控制与个人信息处理合法性评估;等保属建设与评估框架,备案与测评结论以主管部门与测评机构为准。外部模型供应商的策略与可用性不由本服务商控制,片段外发范围、保留与训练使用安排须在合同中写明。服务商对本地知识库、脱敏网关与外发审计的实现负责;对客户审批决策与外部模型服务可用性不承担兜底责任。

先做一次 30 分钟的需求梳理

说出你的行业、数据边界与预算区间,我们在 1 个工作日内给出可验证的下一步。