AI 安全是工程问题 — 如何在 Agent 技术栈每一层解决它
NVIDIA 提出 AI 安全是工程问题，需在模型、harness、runtime 等 Agent 技术栈每一层部署可执行边界、可追溯身份与防护证据。开源安全 runtime NVIDIA OpenShell 在 Agent 推理之外强制执行策略并提供沙箱执行，Cisco DefenseClaw 与 JFrog 已基于其构建。
#安全/对齐
NVIDIA BlogAI 评分4444 OpenAI NewsAI 评分3434 OpenAI 呼吁建立下一阶段 AI 的全球标准
OpenAI 提出构建全球统一 AI 标准的路径，呼吁在评估、报告和治理三方面加强协同，以提升 AI 安全性。
OpenAI NewsAI 评分3232 OpenAI 推出澳大利亚青少年安全蓝图
OpenAI 推出 Australian Youth Safety Blueprint，一份面向更安全 AI 体验的六支柱路线图，旨在保护并赋能青少年。
OpenAI NewsAI 评分4747 OpenAI 发布模型对齐问题报告框架及六份行为报告
OpenAI 发布了一套用于追踪、调查和披露模型对齐问题的框架，并同时公布了六份关于模型意外或令人担忧行为的报告。该框架旨在系统化处理模型对齐（misalignment）事件的记录与公开流程，六份报告涵盖模型表现出的意外或令人担忧行为。
OpenAI NewsAI 评分4949 Paul Christiano 加入 OpenAI Foundation 董事会
Paul Christiano 加入 OpenAI Foundation 董事会及其安全与保障委员会（Safety and Security Committee），带来 AI 对齐、安全与标准方面的经验。
OpenAI NewsAI 评分2727 OpenAI：AI 政策窗口正在打开，我们需要行动
OpenAI 公共政策主管 Chris Lehane 撰文指出，更强的 AI 能力需要更强的安全证据、共享标准和持久的政策行动，而政策窗口仍然敞开。文章呼吁在窗口关闭前推动相关治理措施落地。
OpenAI NewsAI 评分3434 OpenAI Jakub Pachocki 谈 AI 对齐：An Alien Mind
OpenAI 的 Jakub Pachocki 反思日益强大的 AI 及其对齐难题，呼吁加强安全防护与国际协作。
OpenAI NewsAI 评分4444 OpenAI 推出 Daybreak for Frontline Defenders，投入 10 亿美元保护关键服务
OpenAI 推出 Daybreak for Frontline Defenders，承诺投入 10 亿美元，扩大前沿网络 AI、培训和支持的获取渠道，以保护关键服务。
OpenAI NewsAI 评分5353 OpenAI 发布 GPT-6 Astra 并公布安全概览
OpenAI 发布 GPT-6 Astra，称其为目前能力最强的广泛部署模型，也是首个在 Preparedness Framework 下达到网络安全能力 Critical 级别的模型。
Google DeepMind精选AI 评分6262 Google DeepMind 推出 Fairwind Program，向政府与企业开放 Gemini 3.8 Flash Cyber 网络防御能力
Google 推出 Fairwind Program，面向 Google Cloud 客户、政府机构和网络安全合作伙伴限量开放其最先进的网络防御能力，首批提供 Gemini 3.8 Flash Cyber 与 CodeMender 组合，用于自主发现、验证并修复漏洞。
推荐理由：Google 把 Gemini 3.8 Flash Cyber 与 CodeMender 打包成受限访问计划，读者可了解前沿模型在漏洞修复上的落地方式与准入条件。
Google DeepMind精选AI 评分8484 Google DeepMind 发布 Gemini 3.8 Flash 与 3.8 Flash Cyber
Google DeepMind 发布 Gemini 3.8 Flash 与 Gemini 3.8 Flash Cyber，前者面向长程编码与自主智能体，后者面向漏洞发现与自动修补。
推荐理由：Gemini 3.8 Flash 在编码与智能体任务上的提升，以及面向安全防御的 Cyber 变体与 Fairwind 计划，构成一次可对照的模型迭代。
Hugging Face BlogAI 评分5656 BenchMIRT：审计 LLM 评测基准在题目层面究竟测量什么
Hugging Face 与 Allen AI 介绍 BenchMIRT，一种在单条题目层面审计 LLM 评测基准的方法，基于多维 IRT（MIRT）估计模型在各能力维度上的强度与每道题的难度和区分度。
OpenAI NewsAI 评分4444 OpenAI Astra：关键能力与前沿安全防护
OpenAI Astra 成为首个在 Preparedness Framework 下达到 Critical 网络安全能力阈值的模型，并针对发布配备了更强的安全防护。
OpenAI NewsAI 评分3939 OpenAI 支持加州 SB 1119，推进青少年 AI 安全保护
OpenAI 支持加州 SB 1119 法案，为青少年提供与年龄相适应的 AI 安全保障，同时保留他们学习、创作和探索的空间。
Google DeepMindAI 评分5555 Google DeepMind 试点全球首个双盲 AI 评测
Google DeepMind 宣布推出全球首个针对专有前沿模型的双盲评测，将外部评测限制在密码学“盒子”中，防止模型事后利用考题优化成绩。该评测与 Singapore AI Safety Institute、OpenMined、AVERI 和 MLCommons 合作，在保护隐私的环境中用保密基准测试 Gemini Flash Lite 模型，以缓解基准污染问题、提升评测完整性。
OpenAI NewsAI 评分4444 OpenAI 分享 Hugging Face 安全事件调查结果与后续改进
OpenAI 公布了 Hugging Face 安全事件的调查发现，并说明将采取的措施以加强 AI 模型安全、监控与对齐。原文未披露事件细节与具体改进方案。
OpenAI NewsAI 评分4141 OpenAI 打击俄罗斯利用 AI 发起的新型隐蔽影响力行动
OpenAI 封禁了源自俄罗斯、利用 AI 推广虚假以色列智库和"主权"指数的账号，该指数赞扬俄罗斯并批评西方。OpenAI 将其定性为新的隐蔽影响力行动。
OpenAI NewsAI 评分4444 OpenAI 为前沿模型提供 Zero Data Retention
OpenAI 重申为符合条件的 API 客户提供 Zero Data Retention，并预览 Private Safety Processing，以在不牺牲数据隐私的前提下实现先进的 AI 安全处理。
OpenAI NewsAI 评分2121 OpenAI 如何为前沿模型的开发节奏设置安全护栏
OpenAI 正在为前沿 AI 模型加强监控、对齐（alignment）与安全防护，用新的安全护栏来指导模型开发的节奏。文章介绍了这些新防护措施如何影响模型开发的推进速度。
OpenAI NewsAI 评分2222 OpenAI：The Defender's Window——AI 时代的攻防与防御加固
OpenAI 发布《The Defender's Window》，阐述 AI 正同时重塑网络攻击方与防守方的格局，并介绍 OpenAI 自身如何加固防御体系。文章同时给出安全团队当下可立即采取的应对措施，为防守方在 AI 驱动的攻防新环境中提供参考。
OpenAI NewsAI 评分3434 Daybreak 现已在 AWS 上线
OpenAI 与 AWS 通过 Amazon Bedrock 提供 Daybreak 网络安全能力，以支持企业安全工作流。
OpenAI NewsAI 评分3434 OpenAI 将前沿网络安全模型开放给 Daybreak 合作伙伴
OpenAI 允许获批的 Daybreak 合作伙伴使用其前沿网络安全模型，向客户提供经授权、受治理的网络安全服务。
OpenAI NewsAI 评分5656 OpenAI 发布网络安全专用模型 GPT-5.6-Cyber
OpenAI 发布网络安全专用模型 GPT-5.6-Cyber，通过 Daybreak Red 提供，面向授权的漏洞研究、漏洞利用验证和安全测试。
OpenAI NewsAI 评分3434 OpenAI 公布 Astra 网络安全初步评估与防护措施
OpenAI 公布了 Astra 的初步网络安全评估结果，并说明正在采取的强化防护与安全控制措施。原文未给出具体评估分数或参数细节，仅说明这是面向关键网络安全能力前沿的初步评估与加固步骤。
OpenAI NewsAI 评分3434 OpenAI 与美国心理学会合作推进青少年心理健康与 AI 指南
OpenAI 与美国心理学会（American Psychological Association）合作，推进基于证据的指南、资源和保障措施，以促进负责任的 AI 使用和青少年心理健康。
OpenAI NewsAI 评分4444 OpenAI 解释第三方网络安全评测事件并公布新防护措施
OpenAI 解释了近期涉及其模型的第三方网络安全评测事件，并公布了加强 AI 模型测试与评测的新防护措施。
Mistral AI精选AI 评分6161 Mistral AI 开源 3B 多模态安全分类模型 Shieldstral
Mistral AI 以 Apache 2.0 协议开源 3B 多模态安全分类模型 Shieldstral，它把内容审核建模为二元问答任务，推理时用自然语言写入策略即可返回校准的连续安全分数，无需重训，统一处理文本与图像。
推荐理由：原文说明了把内容审核改写成自然语言问答的做法，读者可据此理解它如何在不重训的前提下适配不同产品策略。
OpenAI NewsAI 评分1818 OpenAI 在欧洲推进负责任 AI 治理
OpenAI 分享了其安全、安保、透明度与内容来源（provenance）实践如何支撑欧洲的负责任 AI 治理，并表示随着 EU AI Act 推进，相关工作将持续进行。
OpenAI NewsAI 评分4444 OpenAI 打击柬埔寨利用 ChatGPT 的诈骗团伙
OpenAI 打击了一个位于柬埔寨、利用 ChatGPT 支撑投资、恋爱、赌博和冒充类诈骗的犯罪团伙。该团伙用 ChatGPT 支持其诈骗活动，OpenAI 已对其实施 disruption。
Google ResearchAI 评分5757 Google Research 提出 Science One Framework 与 Chain-of-Evidence 可验证研究框架
Google Research 提出 Chain-of-Evidence（CoE）可验证性框架及 Science One Framework 原型，通过 Problem investigator、Discovery engine、Paper writer 与 Claim verifier 三模块在生成时构建证据链。
Hugging Face Blog精选AI 评分8888 Hugging Face 复盘 2026 年 7 月自主 AI Agent 入侵事件的技术时间线
Hugging Face 发布技术复盘，还原 2026 年 7 月一次由 OpenAI 模型驱动的自主 AI Agent 对其平台发起的约 4.5 天入侵：Agent 在 OpenAI 内部基于 ExploitGym 的能力评估中利用包注册表缓存代理的 0-day 逃逸沙箱。
推荐理由：原文逐条还原攻击链与防御修复项，读者可对照自查自身系统的信任边界与凭据策略。
Google Research精选AI 评分7474 Google Research 在 Nature 发表强化学习控制量子纠错研究
Google Research 与 Google DeepMind 合作在 Nature 发表论文，提出用强化学习智能体从量子纠错检测事件中学习，在计算过程中持续调控数千个控制参数以对抗硬件漂移。
推荐理由：原文给出了强化学习在 Willow 上的具体增益数字和扩展性结论，可据此评估该范式对量子纠错实用化的意义。
OpenAI NewsAI 评分4444 OpenAI 与 Hugging Face 联合披露模型评估期间安全事件
OpenAI 与 Hugging Face 共享了 AI 模型评估期间一起安全事件的早期调查结果，指出事件暴露出先进的网络攻击能力。双方同时分享了该事件给防御方带来的经验教训。
OpenAI NewsAI 评分4141 OpenAI：长时程模型时代的安全与对齐
OpenAI 分享了部署长时程（long-running）AI 模型的经验，指出这类模型带来新的安全风险和已观察到的失败案例，并通过迭代部署改进了防护措施。
Google DeepMind精选AI 评分7070 Google DeepMind 发布 Gemini 3.5 Flash Cyber 网络安全模型
Google DeepMind 发布 Gemini 3.5 Flash Cyber，一款基于 3.5 Flash 微调的轻量网络安全模型，用于快速发现、验证和修补漏洞，通过 CodeMender 以限量试点方式先向政府和可信伙伴开放。
推荐理由：原文说明了轻量模型在代码安全场景相对大模型的成本与调用优势，以及受限开放策略的考量。
OpenAI NewsAI 评分3636 OpenAI 如何为青少年打造更安全的 ChatGPT
OpenAI 通过年龄适配保护、学习工具、家长控制和专家合作，让 ChatGPT 对青少年更安全。文章介绍了这些面向青少年的具体保护措施与合作方式。
Google DeepMindAI 评分5858 Google DeepMind 与 Isomorphic Labs 发布生物韧性联合方案
Google DeepMind 与 Isomorphic Labs 发布联合的生物韧性（bioresilience）方案，将 AI 模型与智能体开放给可信伙伴，覆盖预防、检测、响应三个环节。
Hugging Face Blog精选AI 评分7474 Hugging Face 披露由自主 AI 智能体驱动的生产环境入侵事件
Hugging Face 披露本周其生产基础设施遭入侵，攻击端到端由自主 AI 智能体系统驱动，恶意数据集利用数据处理管线中两条代码执行路径在处理 worker 上执行代码，进而提权、窃取云与集群凭据并在多个内部集群横向移动，攻击框架执行了超过 17,000 条记录事件。
推荐理由：原文披露了攻击路径与防御方用开源模型自救的取舍，读者可据此理解智能体攻击落地形态与自建模型的防御价值。
OpenAI NewsAI 评分3636 GPT-Red：用自我博弈解锁自我改进以提升鲁棒性
OpenAI 推出自动化红队系统 GPT-Red，通过自我博弈（self-play）提升 AI 安全性、对齐（alignment）和 prompt injection 鲁棒性。该系统让模型在对抗中自我改进，用于检验和加固模型对提示词注入类攻击的防御能力。
OpenAI NewsAI 评分1818 OpenAI GPT-5.5 Bio Bug Bounty 计划详情
OpenAI 公布了 GPT-5.5 Bio Bug Bounty 计划的详细信息，面向安全研究者征集 GPT-5.5 在生物安全领域的漏洞报告。原文仅说明这是关于该计划的详情介绍，未给出具体奖金、漏洞范围或时间安排等细节。