AWS 提出 Trust in Depth:让智能体获得更多自主权而不失控
AWS AI Services 副总裁 Shawn Bice 提出 Trust in Depth 框架,主张在智能体行为可被验证时让其自主行动,把人工判断留给真正需要决策的环节。
AWS AI Services 副总裁 Shawn Bice 提出 Trust in Depth 框架,主张在智能体行为可被验证时让其自主行动,把人工判断留给真正需要决策的环节。
微软研究院播客中,partner research manager Jennifer Neville 与首席应用科学家 Chad Atalla 对谈,讨论评估如何推动当前 AI 系统突破性能边界,以及模型在超出传统 benchmark 测试时出现的“意外失败”。她还分享使用当前 AI 系统的实用建议,并强调当结果偏离预期时应仔细检查数据。
GitHub Copilot 应用推出 canvas,一种在应用内运行、无浏览器外壳的全栈小应用,可与 Copilot 智能体双向通信。官方演示用它做 Connect 4 对战、Winget 包管理和 SQLite 操作,并称让智能体造工具比反复用聊天消耗 token 更划算。canvas 可调用第三方 API 并在本地执行代码,复杂工作流示例耗时近一天调通。
UC Berkeley 的 Aditya G. Parameswaran 等人提出,推理成本已从 GPT-4 级约 $30/百万 token 降至不足 $1,部分厂商低于 $0.10,年均降幅中位数约 50x,数据系统需围绕智能体重构。文章给出三个方向:为智能体设计的数据系统(如复用 80-90% 重复子查询)、支撑智能体集群运行的数据系统,以及由智能体自行合成数据系统。
伯克利 AI 研究团队综述了并行推理领域进展,重点分析自适应并行推理——让模型自行决定何时分解并并行化子任务、开启多少并发线程以及如何协调。现有方法如自一致性、Best-of-N、Tree of Thoughts、MCTS、ParaThinker、GroupThink 和 Hogwild! Inference 的并行结构多由模型外部预先设定,而不同问题需要不同并行度。