Anthropic 正开发 FlashProve 开源系统：用密码学证明 AI 输出来自哪个模型
IT之家 11 月 4 日消息，Anthropic 正在开发一套开源系统，用于验证某一 AI 输出究竟由哪个模型生成。根据该公司周二发布的一篇博客文章，这套名为 FlashProve 的系统旨在实现研究人员所称的“可证明推理”（provable inference）：通过密码学证明，为特定输出提供数学层面的保证，证明其确实来自某个指定模型。借助这套系统，用户可以确认自己收到的答案是否真的由其认为正在使用的模型生成。 据IT之家了解，FlashProve 的工作原理类似于加密电子邮件签名。后者能够帮助收件人确认邮件是否确实来自其声称的发件人，而 FlashProve 则能够抵御试图将一个模型伪装成另一个模型的行为，即使实施伪装的正是开发并运行该模型的 AI 公司，也难以绕过验证。 研究人员特别指出， 这套系统有望防止 AI 公司为了削减成本而暗中换用更便宜的模型 ，也可以避免企业偷偷换用更昂贵的模型，以人为抬高性能测试结果。 Fl...
来自IT之家 AI的《Anthropic 正开发 FlashProve 开源系统：用密码学证明 AI 输出来自哪个模型》。重点看模型能力与工程、开源生态、产品发布。摘要提到：IT之家 11 月 4 日消息，Anthropic 正在开发一套开源系统，用于验证某一 AI 输出究竟由哪个模型生成。根据该公司周二发布的一篇博客文章，这套名为 FlashProve 的系统旨在实现研究人员所称的“可证明推理”（provable inference）：通过密码学证明，为特定输出提供数学层面的保证，证明其确实来自某个指定模型。借助这套系统，用户可以确认自己收到的答案是否真的由其认为正在使用的模型生成。 据IT之家了解，FlashProve 的工作原理类似于加密电子邮件签名。后者能够帮助收件人确认邮件是否确实来自其声称的发件人，而 FlashProve 则能够抵御试图将一个模型伪装成另一个模型的行为，即使实施伪装的正是开发并运行该模型的 AI 公司，也难以绕过验证。 研究人员特别指出， 这套系统有望防止 AI 公司为了削减成本而暗中换用更便宜的模型 ，也可以避免企业偷偷换用更昂贵的模型，以人为抬高性能测试结果。 Fl...
本站只提供摘要与原文入口。完整内容请阅读原文。
来源：IT之家 AI · ithome.com