OpenAI 提出衡量神经网络分类器对抗未见攻击鲁棒性的新方法

OpenAI 提出一种方法，用于评估神经网络分类器能否可靠防御训练期间未见过的对抗攻击，并由此得到新指标 UAR（Unforeseen Attack Robustness），衡量单一模型对未预期攻击的鲁棒性。该方法还强调需要在更广泛的未见攻击范围内衡量模型表现。