GPT-Red：用自我博弈解锁自我改进以提升鲁棒性

OpenAI 推出自动化红队系统 GPT-Red，通过自我博弈（self-play）提升 AI 安全性、对齐（alignment）和 prompt injection 鲁棒性。该系统让模型在对抗中自我改进，用于检验和加固模型对提示词注入类攻击的防御能力。