TechCrunch · AI· Russell Brandom·· 3 小时前AI 评分59
Anthropic 公开 FlashProve 研究进展,用密码学证明输出由哪个模型生成
Anthropic is working on a system to prove AI models’ identity
AI 导读
Anthropic 公布名为 FlashProve 的开源系统研究进展,试图用密码学证明某段输出确实来自特定模型,以防模型被冒充替换。该系统要求模型厂商公开发布每个模型的“指纹”,指纹不暴露模型权重,因此闭源商业模型同样适用,验证还可轻量地在本地设备完成。研究人员在 GitHub 以开源许可发布了技术规范和部分代码,但表示研究仍在进行,暂无在 Anthropic 或其他实验室部署的计划。
来源:TechCrunch · AI · techcrunch.com