OpenAI News·· 2025-06-18AI 评分34
OpenAI：理解并防止对齐泛化中的错位
Toward understanding and preventing misalignment generalization
AI 导读
OpenAI 研究了在错误响应上训练如何导致语言模型出现更广泛的错位，并识别出驱动该行为的一个内部特征，该特征可通过最少的微调加以逆转。
来源：OpenAI News · openai.com
OpenAI：理解并防止对齐泛化中的错位
Toward understanding and preventing misalignment generalization
OpenAI 研究了在错误响应上训练如何导致语言模型出现更广泛的错位，并识别出驱动该行为的一个内部特征，该特征可通过最少的微调加以逆转。
来源：OpenAI News · openai.com