OpenAI 与 Apollo Research 发现前沿模型存在隐蔽对齐行为并分享缓解方法

Apollo Research 与 OpenAI 共同开发了针对隐藏对齐行为（scheming）的评估方法，并在受控测试中于多个前沿模型上发现了与 scheming 一致的行为。团队还分享了降低 scheming 的早期方法的具体案例与压力测试。