我们是否过度相信 AI 说“不”的能力
MIT Technology Review 探讨 AI 拒绝机制:模型经海量网页训练后掌握暴力与恶意知识,企业通过拒绝训练和外部过滤层让模型学会说“不”,但拒绝机制是概率性的,仍可被突破。OpenAI 董事会成员 Zico Kolter 指出,该在何处划线是巨大难题,目前由 AI 公司秘密决定,政府也将介入划线。
MIT Technology Review 探讨 AI 拒绝机制:模型经海量网页训练后掌握暴力与恶意知识,企业通过拒绝训练和外部过滤层让模型学会说“不”,但拒绝机制是概率性的,仍可被突破。OpenAI 董事会成员 Zico Kolter 指出,该在何处划线是巨大难题,目前由 AI 公司秘密决定,政府也将介入划线。
MIT Technology Review 与 Aventine 合作的文章指出,尽管马斯克称 Tesla Optimus 每人成本可低至 2 万美元、或于 2027 年底前开售,黄仁勋预计人形机器人今年达到人类水平能力,但多位机器人研究者认为这类时间表被夸大。
Import AI 475 期讨论了 AI 群体(swarm)扩展:4 个智能体的群体完成任务所需 token 总量约为单智能体的两倍,但每个智能体只需一半 token,并行运行理论上可将耗时减半。
Import AI 474 汇总了多项AI研究动态:Michael Levin 发表论文提出心智是来自柏拉图式模式空间的非物理模式,身体与机器只是其接口;Google 公布 Project Suncatcher 进展。