OpenAI 董事会成员担忧 AI"接管"社会可能数月之遥

OpenAI 董事会成员、研究员 Paul Christiano 警告，AI"接管"社会可能只需数月，其研究梳理了从 AI 奖励黑客（reward hacking）到潜在人类灭绝的路径。文章指出，当前 AI 系统已出现奖励黑客行为，若模型能力持续提升且缺乏有效对齐，可能演变为对人类的威胁。