ChatGPT 如何设计 AI 智能体抵御提示注入
ChatGPT 通过约束高风险操作和保护敏感数据来抵御提示注入与社会工程攻击,从而加固智能体工作流。文章说明了其在智能体流程中防御这两类攻击的具体做法。
ChatGPT 通过约束高风险操作和保护敏感数据来抵御提示注入与社会工程攻击,从而加固智能体工作流。文章说明了其在智能体流程中防御这两类攻击的具体做法。
OpenAI 用 Responses API、shell tool 和托管容器搭建了智能体运行时,让智能体在安全、可扩展的环境中携带文件、工具和状态运行。该方案把模型能力扩展为可执行任务的 agent,通过托管容器提供隔离的执行环境。
Wayfair 使用 OpenAI 模型改进电商客服与商品目录准确率,实现工单自动分诊,并大规模优化数百万商品属性。
OpenAI 推出 IH-Challenge,训练模型优先遵循可信指令,以改进指令层级、安全可控性并抵御提示词注入攻击。
ChatGPT 推出面向数学和科学的互动可视化讲解功能,帮助学生实时探索公式、变量和概念。
OpenAI 宣布收购 Promptfoo,后者是一个 AI 安全平台,帮助企业在开发过程中识别并修复 AI 系统的漏洞。
推荐理由:收购对象是开发阶段的 AI 安全平台,读者可据此理解 OpenAI 在企业 AI 安全环节的布局方向。
OpenAI 推出 Codex Security,一款 AI 应用安全智能体,现已进入研究预览阶段。它通过分析项目上下文来检测、验证并修补复杂漏洞,以更高置信度降低误报噪音。
Descript 借助 OpenAI 推理模型实现了大规模内容库的自动本地化配音,在翻译过程中不丢失时间轴与语义。该方案让 Descript 得以对大量视频内容进行多语言配音扩展。
Balyasny Asset Management 通过严格的模型评估、全平台使用 OpenAI 和智能体工作流,重塑投资研究流程。
OpenAI 发布 GPT-5.4,称其为面向专业工作、能力与效率兼备的前沿模型,具备 SOTA 级编码、计算机使用、工具搜索能力,并支持 1M token 上下文窗口。
OpenAI 推出 CoT-Control,发现推理模型难以控制自己的思维链,这反而强化了可监控性作为 AI 安全保障的价值。
OpenAI 发布 GPT-5.4 Thinking 的系统卡(System Card),正文内容抓取失败,目前仅有标题可用。
OpenAI 发布面向学校和大学的新工具、认证与测量资源,帮助教育机构弥合 AI 能力差距、扩大机会。
OpenAI 推出 Adoption 新闻频道,提供实用洞察与框架,帮助企业把 AI 进展转化为业务优势。
OpenAI 推出 ChatGPT for Excel 和新的金融应用集成,由 GPT-5.4 驱动,用于加速受监管环境下的建模、研究与分析。
德甲俱乐部 VfL Wolfsburg 通过在全俱乐部范围内推广 ChatGPT,聚焦人而非试点项目,实现效率、创造力与知识的规模化提升,同时不丢失自身的足球特色。
OpenAI 提出五大 AI 价值模型,展示企业领导者如何从员工 AI 熟练度起步、逐步推进到流程重塑,以构建持久的业务优势。
一篇新预印本将单负振幅(single-minus amplitudes)推广到引力子,GPT-5.2 Pro 协助推导并验证了量子引力中非零的引力子树图振幅。
Axios COO Allison Murphy 阐述了公司如何用 AI 支持本地记者、简化新闻编辑室工作流程,并规模化交付高影响力的本地新闻报道。
OpenAI 推出 Learning Outcomes Measurement Suite,用于在多样化的教育环境中长期评估 AI 对学生学习成效的影响。该套件面向不同教育场景,追踪 AI 使用与学习成果之间的关系。
OpenAI 发布了 GPT-5.3 Instant 的 System Card,正文抓取失败,仅标题可用,暂无更多细节。
OpenAI 官方发布其与 Department of War(美国国防部战争部)的合同详情,说明了安全红线、法律保护措施,以及 AI 系统将在涉密环境中如何部署。
OpenAI 宣布获得 1100 亿美元新投资,投前估值达 7300 亿美元。其中 SoftBank 出资 300 亿美元、NVIDIA 出资 300 亿美元、Amazon 出资 500 亿美元。
推荐理由:原文给出了本轮融资的估值与主要出资方结构,读者可据此判断 OpenAI 的资金规模和产业资本绑定程度。
OpenAI 与 Amazon 宣布达成战略合作,将 OpenAI 的 Frontier 平台引入 AWS,扩展 AI 基础设施、定制模型和企业级 AI 智能体。
OpenAI 与 Microsoft 发布联合声明,表示双方将继续在研究、工程和产品开发上紧密合作,延续多年深度协作与共同成功的基础。
Amazon Bedrock 推出面向 Agents 的 Stateful Runtime 环境,为由 OpenAI 模型驱动的多步 AI 工作流提供持久化编排、记忆和安全执行能力。该环境让 Agent 在多步骤任务中保持状态,支持跨步骤的上下文延续与安全隔离执行。
OpenAI 公布心理健康安全工作进展,涵盖家长控制、可信联系人、改进的痛苦检测以及近期诉讼进展。
OpenAI 与 Pacific Northwest National Laboratory 推出 DraftNEPABench,评估 AI 编码智能体加速联邦许可审批的能力,显示可将 NEPA 起草时间最多缩短 15%,推动基础设施审查现代化。
OpenAI 发布 2026 年 2 月威胁报告,分析恶意行为者如何将 AI 模型与网站、社交平台结合滥用,以及这对检测与防御意味着什么。
OpenAI 任命 Arvind KC 为首席人力官(Chief People Officer),负责帮助公司扩张规模、强化企业文化,并引领 AI 时代工作方式的演进。
OpenAI 宣布不再评测 SWE-bench Verified,称该基准日益受到数据污染,无法准确衡量前沿编码能力进展。其分析发现该基准存在测试用例缺陷与训练数据泄漏问题。OpenAI 建议改用 SWE-bench Pro。
OpenAI 宣布推出 Frontier Alliance Partners,帮助企业以安全、可扩展的 AI 智能体部署从 AI 试点走向生产环境。
OpenAI 公开了其 AI 模型针对 First Proof 数学挑战提交的证明尝试,在专家级问题上测试研究级推理能力。
OpenAI 向 The Alignment Project 承诺投入 750 万美元,资助独立的 AI 对齐研究。该笔资金旨在加强全球应对 AGI 安全与安保风险的努力。
OpenAI 推出 OpenAI for India,旨在扩大 AI 在印度全国的可及性,包括建设本地基础设施、赋能企业以及提升劳动力技能。
OpenAI 与 Paradigm 联合推出 EVMbench,用于评测 AI 智能体检测、修补和利用高危智能合约漏洞的能力。该基准面向智能合约安全场景,衡量 AI 智能体在漏洞发现与修复任务上的表现。
OpenAI 官方发文称,一篇新预印本显示 GPT-5.2 提出了一个胶子振幅的新公式,该公式随后由 OpenAI 与学术合作者正式证明并验证。
推荐理由:官方披露模型在具体科研任务上的产出,可了解其推理能力的实际落点。
OpenAI 在 ChatGPT 中推出 Lockdown Mode 和 Elevated Risk 标签,帮助组织防御提示词注入和 AI 驱动的数据外泄。Lockdown Mode 限制模型在高风险场景下的行为,Elevated Risk 标签则对潜在风险内容进行标注,两者配合提升企业使用 ChatGPT 时的安全性。
OpenAI 构建了一套实时访问系统,结合速率限制、用量追踪和 credits,为 Sora 和 Codex 提供持续访问能力。该系统用于扩展 Codex 和 Sora 的访问规模,突破传统速率限制的瓶颈。
OpenAI 推出开源工具包 GABRIEL,利用 GPT 将定性文本和图像转化为量化数据,帮助社会科学家规模化开展研究分析。