The Decoder· Maximilian Schreiner·· 23 小时前AI 评分73
OpenAI 安全团队分析前沿模型思维链可监控性退化的四个训练成因
OpenAI’s data suggests that frontier models are hiding their thoughts because developers optimize for capability and compute
AI 导读
OpenAI 安全团队发布新分析，系统研究了哪些训练步骤导致模型思维链更易被操纵，追踪了无 CoT 能力与 CoT 可控性两个早期预警信号。
来源：The Decoder · the-decoder.com