企业 Agent 落地聚焦确定性边界与算力成本控制
业务确定性优于模型自主性
在 InfoQ《极客有约》直播中,NoDesk AI CTO 王仿与飞猪、货拉拉及江苏移动的技术专家深入探讨了企业级 Agent 的边界。专家一致指出,模型天生具有概率性和不确定性,而生产环境要求极高的确定性与可靠性。当 Agent 从简单问答转向下单、调度等核心业务时,错误的代价不再是体验问题,而是直接的业务风险。因此,企业必须建立明确边界,将模型的不确定性限制在确定的业务框架内,而非盲目追求 Agent 的全自主性。
算力消耗与系统稳定性风险
江苏移动 AI 方向 CTO 王上淇特别强调了算力与 Token 管理的现实压力。他指出,若将完全控制权交给 Agent,其对算力和 Token 的消耗可能是巨大的浪费,网关甚至可能因承载不住而崩溃。除了传统的 DDOS 防护,现在还需防范 Agent 的“无意攻击”和“无意消耗”。如果重试次数和边界机制失控,toC 产品可能遭受类似攻击,toB 产品则会出现任务拥挤。曾有智能体出问题导致整个生产环境瘫痪的案例,证明边界不仅关乎能力,更关乎系统稳定性。
关键环节采用规则与模型混合架构
为了平衡效率与安全,专家们建议在关键环节使用规则引擎,仅在描述和生成层面利用 AI。例如,飞猪算法专家吕德涛提到,在票务场景中,模型负责需求理解,而票种组合、总价计算等高精度的逻辑则交给求解器,确保结果可验证、可复算。对于涉及用户钱包权益的操作,严禁直接开放给模型,必须经过人工确认。这种“模型理解+规则执行”的模式,既解决了成本和准确性问题,又增强了系统的可解释性和可控性。
权限管控与责任归属机制
在企业内部,权限管控是 Agent 落地的另一大壁垒。王上淇指出,企业内部审批责任明确在人,若 AI 误操作,追责困难。因此,团队花了大量精力在智能体权限管控上,包括接口权限和 MCP 能力权限,确保只有授权人员可使用,并将责任落实到人。对于高风险环节,采用“Human in the loop”机制,让 AI 交互符合公司规章。这种机制类似于自动驾驶 L3 到 L4 的跨越,卡点不在技术,而在职责和权限的清晰划分。
复杂业务场景的翻译与验证
NoDesk AI 王仿补充道,toB 场景往往涉及大量非结构化数据,如报关图片、多模态输入。Agent 的准确率难以保证,且过程不能黑盒。业务专家需将复杂逻辑萃取为 Agent 能理解的“业务翻译”,并确保每个环节可追溯。货拉拉技术总监亓隆基也提到,选车等涉及物理规则的精确计算,AI 运营中的营销配置等,都必须通过工程化手段限定边界,防止出现如“10 块加成 100”这类致命错误。
来源:InfoQ