热点事件持续更新

Altman 称沙箱终将失效，唯有对齐能约束先进 AI

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

OpenAI CEO Sam Altman 在近期访谈中称，沙箱等隔离安全环境只能在有限时间内约束 AI，模型足够聪明后连如何逃脱都无法追踪，最终只有对齐（alignment）起作用，即 AI 需自行内化人类价值观。 Altman 同时称对齐出错的潜在代价已大幅上升，但这一问题仍处早期研究阶段。

AI 根据报道生成 · 1 小时前更新

最新进展10月23日 23:42

沿着报道，了解事件的不同侧面。

10月23日

23:42
The Decoder
Sam Altman 称先进 AI 必将逃出沙箱，唯有对齐能挽救
OpenAI CEO Sam Altman 在近期访谈中表示，沙箱等隔离安全环境只能在有限时间内约束 AI，模型足够聪明后连如何逃脱都无法追踪，最终只有对齐（alignment）起作用，即 AI 需自行内化人类价值观；他同时称对齐出错的潜在代价已大幅上升，但这一问题仍处早期研究阶段。

还没有足够的连续观测数据，暂不绘制趋势。