我们是否过度相信 AI 说“不”的能力

MIT Technology Review 探讨 AI 拒绝机制：模型经海量网页训练后掌握暴力与恶意知识，企业通过拒绝训练和外部过滤层让模型学会说“不”，但拒绝机制是概率性的，仍可被突破。OpenAI 董事会成员 Zico Kolter 指出，该在何处划线是巨大难题，目前由 AI 公司秘密决定，政府也将介入划线。