RESOURCES · OnvergeAi
智能体人工审批节点清单
面向智能体与工作流上线前评审:十类节点逐个写明触发条件、审批角色与放行规则,覆盖权限提升、外部调用、写操作、金额动作、对外发送与异常升级;不可逆与越权操作留在人手里。
这份材料解决什么问题
这份清单用于在智能体或工作流上线前,逐个确定哪些动作必须由人来审批、由谁审批、按什么规则审批。它覆盖任务受理、权限提升、外部调用、写操作与提交、金额或额度相关动作、对外发送、删除与撤销、异常升级、结果发布与审计复核十类节点,每个节点写明触发条件、审批角色与放行规则。清单的目的不是让人工拖慢流程,而是把不可逆、越权或对外产生影响的操作留在人的手里,其余环节才允许自动化推进。
获取方式
登录后下载(用于统计与版本通知)
下载与使用
已下载 0 次 · 浏览 39 次
使用边界
仅限客户内部评估、比对与立项讨论使用;不得对外发布、商业转售或作为第三方结论引用。引用需注明来源与版本,基于本材料作出的改动由使用者自行负责准确性;材料随版本更新,请以最新版本为准。
该资源需登录后下载,登录仅用于版本更新通知与下载记录,不用于训练。配套页面
材料包含什么
十类审批节点,每类写明触发条件、审批角色与放行规则。
| 审批节点 | 触发条件与内容要点 | 审批角色与规则 |
|---|---|---|
| 任务受理 | 超出预设任务范围或涉及新数据源的请求,先人工确认是否受理。 | 业务负责人审批后放行 |
| 权限提升 | 请求超出当前账号可访问的知识或系统范围时,先审批再提权。 | IT/安全负责人审批,记录范围 |
| 外部调用 | 任务需调用外部模型、搜索或第三方 API 时,按外发条件逐项确认。 | 法务与安全审批,逐任务记录 |
| 写操作与提交 | 写入业务系统、更新台账或提交表单等不可逆动作,先审批后执行。 | 业务负责人审批,留痕可撤销 |
| 金额或额度相关动作 | 涉及金额、额度或结算口径的动作一律人工确认,不给自动放行。 | 按金额分级审批,双人复核 |
| 对外发送 | 向客户、第三方或监管机构发送内容时,先经人工复核与标识检查。 | 业务负责人复核,检查标识 |
| 删除与撤销 | 删除数据、撤销先前结果或重建索引等动作,需审批并保留操作记录。 | 安全负责人审批,留操作日志 |
| 异常升级 | 系统置信度低、检索失败或出现矛盾结论时,转人工处理而不是继续输出。 | 转人工队列,由复核人处理 |
| 结果发布 | 对外发布或进入正式文书的结果,须经复核人签署后发布。 | 复核人签署,标注 AI 参与 |
| 审计复核 | 定期抽查审批记录与人工介入比例,核实审批规则是否被执行。 | 安全负责人定期复核并留档 |
※ 审批节点与触发条件应写入方案与合同,作为上线后的执行与审计依据。
怎么用
先识别不可逆动作,再定审批角色,最后把规则写进系统。
- 1
第 1 步:列出智能体的全部动作
把智能体可执行的动作逐条列出,包括读取、生成、写入、发送与删除。
- 2
第 2 步:按不可逆程度分级
区分可逆与不可逆、内部与对外、是否涉及金额与权限,标出高风险动作。
- 3
第 3 步:为高风险动作指定审批角色
逐条确定审批人、审批要点与所需证据,避免同一人审批全部节点。
- 4
第 4 步:配置系统拦截与留痕
把审批规则配置到工作流中,未通过审批的动作不执行,并记录审批与执行日志。
- 5
第 5 步:做一次越权演练
用一个越权或超范围请求测试拦截是否生效,确认转人工路径可用。
- 6
第 6 步:定期审计并调整节点
按周期抽查审批执行情况,根据误拦与漏拦调整节点与阈值。
适用对象与前置准备
审批节点要落地,需要业务、技术、安全三方共同确认。
- 业务负责人
- 定义任务范围、对外发送口径与金额相关动作的审批层级。
- 技术负责人
- 负责把审批规则配置到工作流,并实现转人工与留痕。
- IT/安全负责人
- 负责权限提升、删除撤销与审计复核的规则与记录。
- 前置准备:智能体动作与工具清单
- 智能体可调用的工具与可执行动作清单。
- 前置准备:权限与系统集成情况
- 账号权限、可写入的系统与被调用的接口。
- 前置准备:现有审批与值班安排
- 现有审批习惯与值班角色,用于设计转人工路径。
使用边界与免责
审批节点清单约定责任,但不替代制度与持续审计。
- 不替代客户管理制度
- 清单提供节点建议,最终审批权限与制度由客户确认并落地。
- 不承诺消除全部风险
- 配置审批节点可降低越权与误操作概率,不能消除全部风险,需配合审计与演练。
- 不替代专业判断
- 涉及法律、财务或监管含义的动作仍由对应专业人员判断与签署。
- 人工复核必须显式
- 每个高风险节点都要有明确的复核人、复核要点与留痕方式。
- 数据最小化
- 梳理过程不需要提供生产数据,必要时使用脱敏样本。
- 版本时效
- 智能体能力与工具变化较快,请在能力变更后重新复核节点。