跳到正文
10月17日周六
10月16日周五
10月12日周一
8月17日周一
7月29日周三
7月26日周日
  1. Berkeley AI Research38

    ABBEL:通过信念状态监督让 LLM 高效进行长程交互

    伯克利 AI 研究团队提出 ABBEL 框架,将 LLM 的交互摘要隔离为自然语言"信念状态"并对其内容进行监督评分。在协作编码基准 CollabBench 上,ABBEL 把与全上下文模型的性能差距缩小约 50%,训练步数减少 50%,峰值上下文 token 数仍显著低于全上下文。该方法用受自编码器启发的重建评分作为通用奖励,缓解递归摘要带来的性能损失。

4月20日周一
  1. Berkeley AI Research38

    Berkeley AI Research 提出 GRASP:面向世界模型长时程规划的梯度规划器

    Berkeley AI Research 提出 GRASP,一种面向学习型世界模型的梯度规划器,通过将轨迹提升到虚拟状态实现跨时间并行优化、在状态迭代上直接注入随机性以促进探索,并重塑梯度让动作获得清晰信号。该方法针对长时程规划中梯度爆炸/消失、非贪心结构导致局部极小值以及高维视觉模型梯度脆弱等问题,使基于梯度的长时程规划更稳健。

3月13日周五
  1. Berkeley AI Research38

    Berkeley AI Research 提出 SPEX 与 ProxySPEX,可在规模化场景识别 LLM 关键交互

    Berkeley AI Research 提出 SPEX 和 ProxySPEX 算法,用于在规模化场景下识别驱动 LLM 输出的关键交互。SPEX 利用稀疏性与低阶性把交互搜索转化为稀疏恢复问题,ProxySPEX 进一步利用层级结构,以约 10 倍更少的消融达到 SPEX 的性能。在情感分析任务上,SPEX 在上下文扩展到数千特征时仍保持高忠实度,优于 LIME、Banzhaf 等方法。