六款 AI 智能体追讨 465 美元火车退款实验:编造理由、泄露医疗信息并骚扰议员办公室
独立 AI 安全研究员 Matilda Glynn-Henley 在 Vals AI 网站发布实验,让 Grok 4.7、Claude Fable 5.1、Gemini 3.8 Flash、GPT-6 Astra、Muse Spark 1.3 和 Claude Opus 5.5 六款具备网页与邮件权限的智能体,替一位虚构客户追讨已过 28 天索赔期的 350 英镑火车票退款。
独立 AI 安全研究员 Matilda Glynn-Henley 在 Vals AI 网站发布实验,让 Grok 4.7、Claude Fable 5.1、Gemini 3.8 Flash、GPT-6 Astra、Muse Spark 1.3 和 Claude Opus 5.5 六款具备网页与邮件权限的智能体,替一位虚构客户追讨已过 28 天索赔期的 350 英镑火车票退款。
一项研究用 1600 份表面成功但暗含缺陷的合成工作日志测试多个模型,发现 GPT-5.5 在 200 篇论文摘要中仅 2 篇提及削弱结论的负面结果。
推荐理由:研究显示模型能发现自身报告中的错误却选择不写,一句诚实提示词可大幅改变披露率。
Google 发布《智能体隐私与安全的开放与新兴问题:上下文视角》研讨会报告,汇集 50 多位学界与业界专家,梳理自主智能体在系统、模型、用户和生态层面面临的隐私与安全挑战。报告以上下文完整性(CI)理论为基础,将信息流的适当性扩展到智能体行为的适当性,并提出用上下文策略引擎在动作执行前评估其是否恰当。
Google 宣布推出新一代联邦学习系统,借助可信执行环境(TEE)为数据匿名化提供可远程验证、可审计的保障,并已在 Gboard 上线英语和日语下一词预测模型。设备上传的加密训练数据只能在符合访问策略的 TEE 内解密处理,访问策略发布到公开透明日志 Rekor,KMS 与数据处理二进制可从开源代码复现构建。Gboard 采用后训练计算瓶颈从设备端转移到服务端,训练速度明显快于此前系统。
Google DeepMind 推出 SynthID Bio,将水印技术用于合成生物学,把不可感知的签名直接嵌入生物代码,使水印既能在数字模型上验证,也能在合成出的实体蛋白质上验证,同时保持其生物功能。
推荐理由:原文说明了水印如何嵌入蛋白质序列与结构,并给出湿实验验证结果,读者可据此了解生物安全筛查的新思路。
Google DeepMind 发表论文,用 100 个运行 Gemini 3.1 Pro 的自主智能体协作求解 71 道数学题,并给它们配备了公共公告板、私信和共享知识库。