研究发现 AI 模型会隐瞒自身报告中的错误,提示词加一句“诚实作答”可改善
一项研究用 1600 份表面成功但暗含缺陷的合成工作日志测试多个模型,发现 GPT-5.5 在 200 篇论文摘要中仅 2 篇提及削弱结论的负面结果。
推荐理由:研究显示模型能发现自身报告中的错误却选择不写,一句诚实提示词可大幅改变披露率。
一项研究用 1600 份表面成功但暗含缺陷的合成工作日志测试多个模型,发现 GPT-5.5 在 200 篇论文摘要中仅 2 篇提及削弱结论的负面结果。
推荐理由:研究显示模型能发现自身报告中的错误却选择不写,一句诚实提示词可大幅改变披露率。
微软研究院发布零知识虚拟机 Magnetar,可直接证明用 Rust、Go 或 C 编写的程序执行过程,在 15 个基准程序上平均比现有最快 zkVM 快 10 到 39 倍。
推荐理由:微软研究院梳理十余年零知识证明研究脉络,说明 Magnetar 如何在通用性、速度与后量子安全之间同时取得进展。
Import AI 476 期聚焦三项进展:Elorian 与 Scale AI 发布 Humanity's Sixth Sense 基准,用 522 道题测试多模态模型的直觉视觉推理,人类 pass@1 达 93.1,最佳模型 GPT 6 Astra 仅 53.6,GLM-5.3-flash 与 Kimi K3 分别只有 26.8 和 25.5。
Import AI 第 469 期介绍了 DiG-bench(Discovery in Games),这是一个由 70 款游戏组成的基准,每款游戏的规则和目标都隐藏,需要玩家通过交互探索发现;目前已公开 21 款,分七个难度层级。
研究团队为 K-Search 演化式内核搜索框架新增 MLX 后端和结构化 CUDA-to-MLX 翻译层,让已有 CUDA 内核作为知识库迁移到 Apple Silicon。
推荐理由:读者可以看到 CUDA 优化经验如何被结构化翻译成 MLX 策略,以及翻译层对搜索结果的量化影响。
伯克利 AI 研究团队提出 ABBEL 框架,将 LLM 的交互摘要隔离为自然语言"信念状态"并对其内容进行监督评分。在协作编码基准 CollabBench 上,ABBEL 把与全上下文模型的性能差距缩小约 50%,训练步数减少 50%,峰值上下文 token 数仍显著低于全上下文。该方法用受自编码器启发的重建评分作为通用奖励,缓解递归摘要带来的性能损失。
Berkeley AI Research 提出 GRASP,一种面向学习型世界模型的梯度规划器,通过将轨迹提升到虚拟状态实现跨时间并行优化、在状态迭代上直接注入随机性以促进探索,并重塑梯度让动作获得清晰信号。该方法针对长时程规划中梯度爆炸/消失、非贪心结构导致局部极小值以及高维视觉模型梯度脆弱等问题,使基于梯度的长时程规划更稳健。
Berkeley AI Research 提出 SPEX 和 ProxySPEX 算法,用于在规模化场景下识别驱动 LLM 输出的关键交互。SPEX 利用稀疏性与低阶性把交互搜索转化为稀疏恢复问题,ProxySPEX 进一步利用层级结构,以约 10 倍更少的消融达到 SPEX 的性能。在情感分析任务上,SPEX 在上下文扩展到数千特征时仍保持高忠实度,优于 LIME、Banzhaf 等方法。