“我们看错了”：Goodfire 研究员称大语言模型内部机制远比想象易解，引爆 AI 圈争议

Goodfire 研究员 Nick Cammarata 发布 2.6 万字博文，称大语言模型内部机制可能远比此前认为的易理解、易监控。他重新分析 Inception v1 中同时响应汽车和猫的神经元，认为此前对 superposition 的判断有误。该说法引爆 AI 圈，但斯坦福 Chris Potts 质疑其仍只是直觉，未简化理解难题。