OpenAI News·· 2024-04-20AI 评分43
OpenAI：训练 LLM 优先遵循特权指令的指令层级方法
The Instruction Hierarchy: Training LLMs to Prioritize Privileged Instructions
AI 导读
OpenAI 提出指令层级（Instruction Hierarchy）方法，训练 LLM 在面对提示注入、越狱等攻击时优先遵循特权指令，防止攻击者用恶意提示覆盖模型的原始指令。
来源：OpenAI News · openai.com