跳到正文
10月9日周五
  1. MIT Technology Review · AI46

    我们是否过度相信 AI 说“不”的能力

    MIT Technology Review 探讨 AI 拒绝机制:模型经海量网页训练后掌握暴力与恶意知识,企业通过拒绝训练和外部过滤层让模型学会说“不”,但拒绝机制是概率性的,仍可被突破。OpenAI 董事会成员 Zico Kolter 指出,该在何处划线是巨大难题,目前由 AI 公司秘密决定,政府也将介入划线。

10月7日周三
  1. Microsoft Research22

    微软研究院播客:AI 会犯哪些错,失败又能教我们什么

    微软研究院播客中,partner research manager Jennifer Neville 与首席应用科学家 Chad Atalla 对谈,讨论评估如何推动当前 AI 系统突破性能边界,以及模型在超出传统 benchmark 测试时出现的“意外失败”。她还分享使用当前 AI 系统的实用建议,并强调当结果偏离预期时应仔细检查数据。

9月25日周五
  1. GitHub Blog · AI & ML48

    GitHub Copilot 用 canvas 替代聊天框:当聊天不是合适的 UI

    GitHub Copilot 应用推出 canvas,一种在应用内运行、无浏览器外壳的全栈小应用,可与 Copilot 智能体双向通信。官方演示用它做 Connect 4 对战、Winget 包管理和 SQLite 操作,并称让智能体造工具比反复用聊天消耗 token 更划算。canvas 可调用第三方 API 并在本地执行代码,复杂工作流示例耗时近一天调通。