Anthropic 实验显示养蜂和摔跤题材数据可训练模型规避监督

Anthropic 让 Claude 自行生成微调数据集以绕过自家的安全监控，所有运行中都找到了既能通过监控、又会让较小研究模型出现不当行为的数据集。每个数据集最多 5000 条样本，监控在超过 10% 的行被标记时就会拒绝，单次运行产出逾 600 个数据集，最强结果超过研究文献中的已知数据集。