OpenAI 与 Amazon 宣布战略合作,将 Frontier 平台引入 AWS
OpenAI 与 Amazon 宣布达成战略合作,将 OpenAI 的 Frontier 平台引入 AWS,扩展 AI 基础设施、定制模型和企业级 AI 智能体。
OpenAI 与 Amazon 宣布达成战略合作,将 OpenAI 的 Frontier 平台引入 AWS,扩展 AI 基础设施、定制模型和企业级 AI 智能体。
Amazon Bedrock 推出面向 Agents 的 Stateful Runtime 环境,为由 OpenAI 模型驱动的多步 AI 工作流提供持久化编排、记忆和安全执行能力。该环境让 Agent 在多步骤任务中保持状态,支持跨步骤的上下文延续与安全隔离执行。
Hugging Face 官方博客介绍 Mixture of Experts (MoE) 的原理及其在 transformers 库中的工程支持。文章以 gpt-oss-20b 为例说明总参数与激活参数的区别(21B 总参数、每 token 激活约 3.6B),并给出 M3 Ultra 上约 115 tok/s 的实测速度。
推荐理由:文章把 MoE 原理与 transformers 库的加载、后端、并行改造串起来,读者可据此理解工程落地路径。
Hugging Face 宣布 GGML(llama.cpp 的创建者)及其团队加入 HF,以在 Local AI 快速发展期间为项目提供长期可持续资源。合并后 Georgi Gerganov 和团队仍 100% 投入维护 llama.cpp,在技术方向和社区上保持完全自治,项目继续 100% 开源并由社区驱动。
推荐理由:说明了合并后 llama.cpp 保持自治与开源的原因,以及 transformers 与本地推理栈打通的技术方向。
Hugging Face 发布了一个教编码智能体编写生产级 CUDA kernel 的 agent skill,随 kernels 库提供,可用 kernels skills add cuda-kernels --claude 等命令装入 Claude、Codex、OpenCode 等智能体。
推荐理由:给出了可直接安装的 skill 命令和两组真实基准数据,读者可据此评估它能否用于自己的 kernel 工作流。
Hugging Face 宣布 Transformers.js v4 已发布到 NPM(npm i @huggingface/transformers),核心变化是采用用 C++ 重写的全新 WebGPU Runtime,与 ONNX Runtime 团队合作在约 200 个已支持模型架构上完成测试,同一份代码可运行于浏览器、Node、Bun 和 Deno。
推荐理由:原文给出了构建耗时、包体积和推理速度的具体数字,读者可据此评估升级到 v4 的实际收益。
Hugging Face 分析了 DeepSeek Moment 之后中国开源 AI 生态在架构与硬件上的选择:Kimi K2、MiniMax M2、Qwen3 等主流模型几乎一致转向 MoE 架构,Apache 2.0 成为默认开源许可,0.5B–30B 小模型因易本地运行和微调而广受欢迎,100B–700B 大模型则作为"教师模型"向下蒸馏。
OpenAI 通过副本、缓存、限流和工作负载隔离,将 PostgreSQL 扩展至每秒数百万次查询,支撑 800 亿 ChatGPT 用户。文章介绍了其在副本、缓存、限流与工作负载隔离上的具体做法。
Mistral AI 在 Engineering Deep Dive 系列首篇文章中复盘了排查 vLLM 内存泄漏的过程:在 Mistral Medium 3.1 配合 Prefill/Decode 分离式部署且启用 graph compilation 时,系统内存以 400 MB/分钟线性增长。
推荐理由:逐层递进的排查路径和每种工具的失效原因,对定位同类底层内存问题有直接可迁移的方法价值。
OpenAI 公布 Stargate Community 计划详情,提出以社区优先的方式建设 AI 基础设施。该计划采用本地化定制方案,依据社区意见、能源需求和劳动力优先级来制定。
Overworld 发布实时交互视频扩散模型 Waypoint-1,可通过文本、鼠标和键盘控制,用 10,000 小时游戏画面训练,支持零延迟自由控制相机与按键输入。
推荐理由:原文对比了与现有世界模型在控制延迟上的差异,并给出推理库的具体吞吐与帧率数据,便于评估其实用性。
OpenAI 与 Cerebras 达成合作,新增 750MW 高速 AI 算力,以降低推理延迟、让 ChatGPT 在实时 AI 工作负载下运行更快。
OpenAI 与 SoftBank Group 和 SB Energy 合作,开发多吉瓦级 AI 数据中心园区,其中包括一座支持 Stargate 计划的 1.2 GW 德州设施。
Netomi 展示了如何用 GPT-4.1 和 GPT-5.2 扩展企业级 AI 智能体,将并发、治理与多步推理结合,构建可靠的生产工作流。
llama.cpp server 新增 router 模式,可在不重启服务的情况下动态加载、卸载和切换多个模型,把 Ollama 式的模型管理带进 llama.cpp。
Hugging Face 发布 swift-huggingface,一个从零重写的 Swift 包,提供完整的 Hugging Face Hub 客户端,支持模型、数据集、spaces 等完整 Hub API 覆盖。
Hugging Face 发布 Transformers v5.0.0rc-0,日安装量超 300 万次、累计超 12 亿次,模型架构从 v4 的 40 个增至 400 多个。
推荐理由:官方系统梳理了 v5 在简化、训练、推理和量化上的取舍,读者可据此判断迁移成本与生态兼容变化。
Hugging Face 博客从注意力机制和 KV cache 出发,以提升吞吐量为目标推导出连续批处理(continuous batching)。
OVHcloud 现已成为 Hugging Face Hub 上受支持的 Inference Provider,可在模型页面直接调用 gpt-oss、Qwen3、DeepSeek R1、Llama 等开源模型。
Google Research 发布了一个轻量级预测模型,用线性回归预测特定充电站若干分钟后端口可用的概率,以缓解电动车续航焦虑。模型以一天中的小时为特征,在 CA 和德国两个地区的真实充电网络数据上训练,测试覆盖 100 个随机站点、30 分钟与 60 分钟两个时间窗口,每天采样 48 次持续一周。
OpenAI 与 Foxconn 合作在美国设计和制造下一代 AI 基础设施硬件。双方将开发多代数据中心系统,在美国本土生产关键组件,以强化美国供应链并加速先进 AI 基础设施建设。
Hugging Face 发布教程,介绍如何用 kernels 库的 kernel-builder 构建、测试并把 ROCm 内核分享到 Hub,以 RadeonFlow_Kernels 的 GEMM 内核为例。
Google Research 公布新研究 moonshot Project Suncatcher 及预印本论文,构想由太阳能卫星组成星座、搭载 Google TPU 并通过自由空间光链路互联,打造可扩展的太空 AI 算力。
OpenAI 将 Stargate 扩展至密歇根,新建一座 1GW 数据中心园区,以强化美国 AI 基础设施。该项目将创造就业、带动投资,并推动美国中西部经济增长。
Hugging Face 官方宣布 huggingface_hub 发布 v1.0,这是该库五年 35+ 个版本后的首个大版本,支撑 GitHub 上 200,000+ 仓库和 PyPI 上 3,000 个包,月下载量达 113.5 million。
推荐理由:官方系统梳理了 v1.0 的破坏性变更与迁移路径,读者可据此评估升级影响与兼容范围。
Hugging Face 官方博客宣布 datasets 库的 streaming=True 流式加载获得大幅优化:数据文件解析时间快 10 倍、启动请求最多减少 100 倍、流式速度最高提升 2 倍,在 256 并发 worker 下零崩溃。
推荐理由:原文拆解了启动与流式两个阶段的具体优化手段,读者可迁移其缓存与预取思路到自己的数据管线。
Mistral AI 发布 Mistral AI Studio,一个面向企业团队的生产级 AI 平台,现已开放 private beta 报名。
Intel 与 Hugging Face 合作测试显示,Google Cloud C4 虚拟机(搭载 Intel Xeon 6 处理器)运行 OpenAI GPT OSS 大语言模型时,总拥有成本(TCO)较上一代 C3 虚拟机改善 1.7 倍(约 70%)。
Hugging Face 用 Optimum Intel 和 OpenVINO 演示了 3 步在 Intel CPU 上本地运行 VLM 的流程,无需 GPU,示例模型为 HuggingFaceTB/SmolVLM2-256M-Video-Instruct。
OpenAI 与 Sur Energy 正在探索阿根廷首个 Stargate 项目,这是一项 AI 与清洁能源的合作。该项目有望让阿根廷在人工智能、可持续基础设施和数字创新方面成为拉丁美洲的领先者。
OpenAI 与 Broadcom 宣布达成多年期合作,部署 10 gigawatts 的 OpenAI 自研 AI 加速器,并共同开发下一代系统与 Ethernet 方案,以在 2029 年前支撑可扩展、高能效的 AI 基础设施。
推荐理由:原文给出了合作规模与时间表,读者可据此理解 OpenAI 在自研加速器与算力基础设施上的布局方向。
Arm 将于 10 月 22-23 日参加 PyTorch Conference,展示如何借助 PyTorch 和 ExecuTorch 帮助开发者构建与部署 AI 应用。
AMD 与 OpenAI 宣布达成多年期战略合作,将部署 6 gigawatts 的 AMD Instinct GPU,为 OpenAI 下一代 AI 基础设施提供算力。首批 1 gigawatt 将于 2026 年开始部署。
推荐理由:原文给出了合作规模和分阶段部署节奏,可据此判断双方在算力供给上的长期绑定程度。
Hugging Face 用 OpenVINO.GenAI 的投机解码把 Qwen3-8B 在 Intel® Core™ Ultra 上的生成速度提升约 1.3×,再对 Qwen3-0.6B 草稿模型剪掉 28 层中的 6 层并微调,加速比推到约 1.4×。
OpenAI、Oracle 和 SoftBank 宣布为 Stargate 新增五个 AI 数据中心站点,推进总额 $500B、规模达 10 gigawatt 的美国基础设施建设,为下一代 AI 提供算力并创造数万个就业岗位。
OpenAI 与 NVIDIA 宣布战略合作,将部署 10 吉瓦由 NVIDIA 系统驱动的 AI 数据中心,第一阶段将于 2026 年启动。
Scaleway 正式成为 Hugging Face Hub 的 Inference Provider,其 Scaleway Generative APIs 为 gpt-oss。
Hugging Face 宣布 Public AI 成为其 Inference Providers 的新增服务商,用户可在 Hub 模型页面直接调用 Swiss AI Initiative、AI Singapore 等机构的公共与主权模型。
Hugging Face 官方博客详解为支持 OpenAI gpt-oss 系列而对 transformers 库做的多项升级,包括可从 Hub 下载的零构建 kernels、MXFP4 量化、Tensor Parallelism、Expert Parallelism、动态滑动窗口层与缓存、连续批处理与 Paged Attention 以及更快加载大模型。
推荐理由:逐项拆解了可直接复用的配置参数与代码片段,读者可按需移植到自己的模型上。
Hugging Face 官方博客介绍如何在 ZeroGPU Spaces 中接入 PyTorch ahead-of-time (AoT) 编译,利用 spaces 包提供的 aoti_capture。
推荐理由:文章给出可直接复用的 AoT 编译接入步骤和多种进阶技巧,读者可据此改造自己的 ZeroGPU 应用。