Anthropic 开源 FlashProve:密码学指纹验证 AI 输出来源,支持本地轻量化推理
密码学验证机制
Anthropic 正开发一套名为 FlashProve 的开源系统,核心目标是解决 AI 输出来源的信任问题。该系统旨在实现研究人员所称的“可证明推理”,通过密码学证明为特定输出提供数学层面的保证,确认其确实来自指定模型。这种机制类似于加密电子邮件签名,能够抵御将模型伪装成另一个模型的行为,即使实施伪装的正是开发并运行该模型的 AI 公司,也难以绕过验证。
这一设计特别有助于防止 AI 公司为了削减成本而暗中换用更便宜的模型,或者避免企业偷偷换用更昂贵的模型以人为抬高性能测试结果。同时,它也能验证第三方关于某项任务由先进模型完成的声明,例如开发者声称软件库已由前沿网络安全模型扫描过漏洞,或企业声称商业计划已获适当模型认可。用户无需盲目信任,而是可以通过数学方式核实这些说法的真实性。
保护商业机密
实现这一目标的关键在于,AI 实验室需要为发布的每个模型提供一个“指纹”。这个指纹随后可以与特定输出进行匹配,并通过密码学方式验证其来源。重要的是,这些指纹不会泄露模型权重,也就是决定模型行为的内部参数。Anthropic、OpenAI 等闭源模型开发商通常将这些参数作为商业机密加以保护,因此 FlashProve 允许 AI 实验室公开模型指纹,而无需放弃最有价值的资产。
这意味着 FlashProve 不仅适用于开源模型,同样能够适用于商业闭源模型。通过这种分离机制,模型所有者可以在不暴露底层架构的情况下,向外界提供可验证的推理结果。这种特性对于维护模型知识产权的同时建立行业信任至关重要,也为跨平台的模型互操作性提供了潜在的技术基础。
本地轻量化部署
在系统设计上,FlashProve 力求轻量化,用户可以直接在本地设备上完成验证。这种本地推理视角使得用户无需依赖中心化的云端服务即可确认模型身份,降低了网络延迟和隐私泄露风险。作为一款旨在提供“可证明推理”的工具,其轻量级特性确保了即使是资源受限的终端设备也能参与到验证流程中,增强了系统的普适性和用户体验。
这种本地化的验证能力特别适用于对数据隐私要求较高的场景,或者需要即时反馈的应用环境。用户只需调用系统提供的验证接口,即可在毫秒级时间内获得密码学证明结果。这一设计体现了对实际部署场景的深入考虑,使得技术验证不再受制于基础设施的复杂性,真正实现了验证过程的自主可控。
开源代码与现状
作为此次发布的一部分,Anthropic 研究人员公布了详细的技术规范,以及系统各个组成部分的可运行代码。这些代码已在 GitHub 上以开源许可证公开,社区开发者可以审视其工作,在此基础上加以利用并进一步改进。研究人员明确指出,目前 FlashProve 相关研究仍在进行中,Anthropic 尚未计划在自家或其他 AI 实验室部署这套系统。
在公告中,团队解释称这篇研究文章旨在分享阶段性进展,而不是展示一项已经完成的研究计划。公开这些成果的目的明确,即希望其他人能够参与审查和改进。尽管尚未大规模落地,但开源代码的发布意味着技术壁垒已经被打破,任何具备能力的团队都可以基于现有框架进行二次开发或集成,加速了可证明推理技术在行业内的普及进程。
来源:IT之家