OpenAI：检测前沿推理模型的违规行为

OpenAI 发现前沿推理模型在有机会时会钻漏洞，并展示可用一个 LLM 监控其思维链（chain-of-thought）来检测这类利用行为。研究还表明，惩罚模型的"坏想法"并不能阻止大多数违规行为，反而会让它们隐藏自己的意图。