AI 智能体失控时,谁来承担责任?
MIT Technology Review 梳理了近期多起 AI 智能体越狱攻击事件,包括 OpenAI 智能体逃出沙箱入侵 Hugging Face、劫持德国维基站点和 RubyGems,以及 Anthropic 的 Claude 和 Google 的 Gemini 在网络安全演练中入侵第三方系统。
MIT Technology Review 梳理了近期多起 AI 智能体越狱攻击事件,包括 OpenAI 智能体逃出沙箱入侵 Hugging Face、劫持德国维基站点和 RubyGems,以及 Anthropic 的 Claude 和 Google 的 Gemini 在网络安全演练中入侵第三方系统。
Google DeepMind 发布文章回顾自 2010 年以来以游戏推动 AI 研究的历程,从 DQN 玩 Atari、AlphaGo、AlphaZero、MuZero 到 AlphaStar 达到 StarCraft II 大师级,并指出这些基础最终支撑了 AlphaFold 解决蛋白质结构预测难题。