Anthropic开发FlashProve验证AI回答来源 — TechCrunch

Anthropic正在开发一套名为FlashProve的开放系统，用于通过密码学验证究竟是哪一款人工智能模型生成了某个回答。据TechCrunch报道，该项目旨在向用户提供结果源自特定模型的数学证明。

密码学确认

Anthropic将这种方法称为“可证明推理”。FlashProve预计会像电子邮件的密码学签名一样运作：该系统将允许验证某个回答确实来自所声称的模型，而不是来自冒充该模型的另一款模型。

按照研究人员的设想，该系统可帮助防止开发实验室自身秘密替换模型。具体而言，公司可能暗中使用成本更低的模型以削减开支，或使用成本更高的模型以抬高其性能指标。

更多最新消息请关注 UA.News Telegram 频道 Telegram.

不披露权重的模型指纹

为使FlashProve能够运行，实验室必须公布每个已发布模型的数字指纹。该指纹可与具体回答进行比对并通过密码学验证。同时，这类指纹不会披露模型权重——决定其行为的内部数值参数，这些参数在商业开发中通常不对外公开。

该系统还被提议用于核实第三方的声明。例如，开发者可以确认其软件库已由先进的网络安全模型检查漏洞，而公司则可以确认其商业计划已获相应AI模型批准。

研究人员已在GitHub上以开放许可证发布了技术规范以及FlashProve部分组件的可运行代码。该系统的研发仍在继续，目前尚无在Anthropic或其他实验室部署它的计划。