用对抗样本攻击机器学习模型

OpenAI 撰文解释对抗样本——攻击者刻意构造的、会让机器学习模型出错的输入，称其如同机器的视觉错觉。文章展示对抗样本在不同媒介中的工作方式，并讨论为何防御此类攻击较为困难。