DeepInfra 成为 Hugging Face Inference Providers 新增推理服务商
DeepInfra 正式成为 Hugging Face Hub 的 Inference Provider,首批支持对话与文本生成任务,可调用 DeepSeek V4、Kimi-K2.6、GLM-5.1 等开源权重 LLM。
DeepInfra 正式成为 Hugging Face Hub 的 Inference Provider,首批支持对话与文本生成任务,可调用 DeepSeek V4、Kimi-K2.6、GLM-5.1 等开源权重 LLM。
Mistral AI 宣布 Workflows 进入公开预览,作为企业 AI 的编排层,提供持久执行、可观测性和容错能力,帮助组织把 AI 流程从概念验证推进到生产。
推荐理由:原文拆解了企业 AI 落地的典型失败模式并给出对应机制,可迁移判断生产化编排层该具备什么。
OpenAI 深入解析 Codex 智能体循环,展示如何通过 WebSockets 和连接级缓存降低 Responses API 的开销并改善模型延迟。
伯克利 AI 研究团队提出梯度规划器 GRASP,通过将轨迹提升到虚拟状态实现跨时间并行优化、向状态迭代直接注入随机性以探索、并重塑梯度让动作获得清晰信号,从而让基于学习动力学(世界模型)的长时程规划变得实用。该方法针对长时程 rollout 中梯度爆炸/消失、非贪心结构导致的局部极小值以及高维视觉模型梯度脆弱等问题。
OpenAI 更新 Agents SDK,加入原生沙箱执行(native sandbox execution)和模型原生 harness(model-native harness),帮助开发者构建可安全、长时间跨文件与工具运行的智能体。
Hugging Face 发布 gradio.Server,它扩展自 FastAPI,让开发者用 React、Svelte 或纯 HTML/JS 等自定义前端,同时保留 Gradio 的队列、SSE 流式、并发控制、gradio_client 兼容与 ZeroGPU 支持。
Mistral AI 发布 CLI 工具 Spaces,用三条命令即可从零跑起带热重载、数据库和 Dockerfile 的多服务项目。
Hugging Face 给出两条迁移路径,让因 Anthropic 限制 Claude 模型访问而受影响的 OpenClaw、Pi、Open Code 智能体改用开源模型继续运行:通过 Hugging Face Inference Providers 托管调用(推荐 GLM-5),或用 llama.cpp 在本地跑 Qwen3.5-35B-A3B(32GB RAM 可用)。
OpenAI 用 Responses API、shell tool 和托管容器搭建了智能体运行时,让智能体在安全、可扩展的环境中携带文件、工具和状态运行。该方案把模型能力扩展为可执行任务的 agent,通过托管容器提供隔离的执行环境。
Hugging Face 在 Hub 上推出 Storage Buckets,一种可浏览、可用 Python 脚本或 hf CLI 管理的可变 S3 式对象存储,用于存放 checkpoint、优化器状态、处理后的数据分片和日志等中间产物。
推荐理由:原文说明了它与 Git 存储的分工边界以及 Xet 去重带来的成本收益,读者可据此判断是否迁移现有工作流。
Hugging Face Blog 发布长文,为 TRL 的异步训练器设计做调研,按七个维度(编排原语、rollout buffer 设计、权重同步协议、staleness 管理、partial rollout 处理、LoRA 支持、分布式训练后端)对比了16个从零围绕异步训练构建的开源库。
推荐理由:文章用七个维度拆解了16个开源RL库的异步训练设计,读者可据此对比选型并理解各自权衡。
Hugging Face 官方博客介绍 Ulysses Sequence Parallelism(来自 Snowflake AI Research 的 Arctic Long Sequence Training 协议)如何通过注意力头并行把长序列训练分布到多 GPU。
NXP 在 Hugging Face 博客发布在 i.MX 95 SoC 上部署 VLA 模型的实践指南,覆盖数据录制、ACT 与 SmolVLA 微调以及端侧优化。
OpenAI 与 Amazon 宣布达成战略合作,将 OpenAI 的 Frontier 平台引入 AWS,扩展 AI 基础设施、定制模型和企业级 AI 智能体。
Amazon Bedrock 推出面向 Agents 的 Stateful Runtime 环境,为由 OpenAI 模型驱动的多步 AI 工作流提供持久化编排、记忆和安全执行能力。该环境让 Agent 在多步骤任务中保持状态,支持跨步骤的上下文延续与安全隔离执行。
Hugging Face 官方博客介绍 Mixture of Experts (MoE) 的原理及其在 transformers 库中的工程支持。文章以 gpt-oss-20b 为例说明总参数与激活参数的区别(21B 总参数、每 token 激活约 3.6B),并给出 M3 Ultra 上约 115 tok/s 的实测速度。
推荐理由:文章把 MoE 原理与 transformers 库的加载、后端、并行改造串起来,读者可据此理解工程落地路径。
Hugging Face 宣布 GGML(llama.cpp 的创建者)及其团队加入 HF,以在 Local AI 快速发展期间为项目提供长期可持续资源。合并后 Georgi Gerganov 和团队仍 100% 投入维护 llama.cpp,在技术方向和社区上保持完全自治,项目继续 100% 开源并由社区驱动。
推荐理由:说明了合并后 llama.cpp 保持自治与开源的原因,以及 transformers 与本地推理栈打通的技术方向。
Hugging Face 发布了一个教编码智能体编写生产级 CUDA kernel 的 agent skill,随 kernels 库提供,可用 kernels skills add cuda-kernels --claude 等命令装入 Claude、Codex、OpenCode 等智能体。
推荐理由:给出了可直接安装的 skill 命令和两组真实基准数据,读者可据此评估它能否用于自己的 kernel 工作流。
Hugging Face 宣布 Transformers.js v4 已发布到 NPM(npm i @huggingface/transformers),核心变化是采用用 C++ 重写的全新 WebGPU Runtime,与 ONNX Runtime 团队合作在约 200 个已支持模型架构上完成测试,同一份代码可运行于浏览器、Node、Bun 和 Deno。
推荐理由:原文给出了构建耗时、包体积和推理速度的具体数字,读者可据此评估升级到 v4 的实际收益。
Hugging Face 分析了 DeepSeek Moment 之后中国开源 AI 生态在架构与硬件上的选择:Kimi K2、MiniMax M2、Qwen3 等主流模型几乎一致转向 MoE 架构,Apache 2.0 成为默认开源许可,0.5B–30B 小模型因易本地运行和微调而广受欢迎,100B–700B 大模型则作为"教师模型"向下蒸馏。
OpenAI 通过副本、缓存、限流和工作负载隔离,将 PostgreSQL 扩展至每秒数百万次查询,支撑 800 亿 ChatGPT 用户。文章介绍了其在副本、缓存、限流与工作负载隔离上的具体做法。
Mistral AI 在 Engineering Deep Dive 系列首篇文章中复盘了排查 vLLM 内存泄漏的过程:在 Mistral Medium 3.1 配合 Prefill/Decode 分离式部署且启用 graph compilation 时,系统内存以 400 MB/分钟线性增长。
推荐理由:逐层递进的排查路径和每种工具的失效原因,对定位同类底层内存问题有直接可迁移的方法价值。
OpenAI 公布 Stargate Community 计划详情,提出以社区优先的方式建设 AI 基础设施。该计划采用本地化定制方案,依据社区意见、能源需求和劳动力优先级来制定。
Overworld 发布实时交互视频扩散模型 Waypoint-1,可通过文本、鼠标和键盘控制,用 10,000 小时游戏画面训练,支持零延迟自由控制相机与按键输入。
推荐理由:原文对比了与现有世界模型在控制延迟上的差异,并给出推理库的具体吞吐与帧率数据,便于评估其实用性。
OpenAI 与 Cerebras 达成合作,新增 750MW 高速 AI 算力,以降低推理延迟、让 ChatGPT 在实时 AI 工作负载下运行更快。
OpenAI 与 SoftBank Group 和 SB Energy 合作,开发多吉瓦级 AI 数据中心园区,其中包括一座支持 Stargate 计划的 1.2 GW 德州设施。
Netomi 展示了如何用 GPT-4.1 和 GPT-5.2 扩展企业级 AI 智能体,将并发、治理与多步推理结合,构建可靠的生产工作流。
llama.cpp server 新增 router 模式,可在不重启服务的情况下动态加载、卸载和切换多个模型,把 Ollama 式的模型管理带进 llama.cpp。
Hugging Face 发布 swift-huggingface,一个从零重写的 Swift 包,提供完整的 Hugging Face Hub 客户端,支持模型、数据集、spaces 等完整 Hub API 覆盖。
Hugging Face 发布 Transformers v5.0.0rc-0,日安装量超 300 万次、累计超 12 亿次,模型架构从 v4 的 40 个增至 400 多个。
推荐理由:官方系统梳理了 v5 在简化、训练、推理和量化上的取舍,读者可据此判断迁移成本与生态兼容变化。
Hugging Face 博客从注意力机制和 KV cache 出发,以提升吞吐量为目标推导出连续批处理(continuous batching)。
OVHcloud 现已成为 Hugging Face Hub 上受支持的 Inference Provider,可在模型页面直接调用 gpt-oss、Qwen3、DeepSeek R1、Llama 等开源模型。
Google Research 发布了一个轻量级预测模型,用线性回归预测特定充电站若干分钟后端口可用的概率,以缓解电动车续航焦虑。模型以一天中的小时为特征,在 CA 和德国两个地区的真实充电网络数据上训练,测试覆盖 100 个随机站点、30 分钟与 60 分钟两个时间窗口,每天采样 48 次持续一周。
OpenAI 与 Foxconn 合作在美国设计和制造下一代 AI 基础设施硬件。双方将开发多代数据中心系统,在美国本土生产关键组件,以强化美国供应链并加速先进 AI 基础设施建设。
Hugging Face 发布教程,介绍如何用 kernels 库的 kernel-builder 构建、测试并把 ROCm 内核分享到 Hub,以 RadeonFlow_Kernels 的 GEMM 内核为例。
Google Research 公布新研究 moonshot Project Suncatcher 及预印本论文,构想由太阳能卫星组成星座、搭载 Google TPU 并通过自由空间光链路互联,打造可扩展的太空 AI 算力。
OpenAI 将 Stargate 扩展至密歇根,新建一座 1GW 数据中心园区,以强化美国 AI 基础设施。该项目将创造就业、带动投资,并推动美国中西部经济增长。
Hugging Face 官方宣布 huggingface_hub 发布 v1.0,这是该库五年 35+ 个版本后的首个大版本,支撑 GitHub 上 200,000+ 仓库和 PyPI 上 3,000 个包,月下载量达 113.5 million。
推荐理由:官方系统梳理了 v1.0 的破坏性变更与迁移路径,读者可据此评估升级影响与兼容范围。
Hugging Face 官方博客宣布 datasets 库的 streaming=True 流式加载获得大幅优化:数据文件解析时间快 10 倍、启动请求最多减少 100 倍、流式速度最高提升 2 倍,在 256 并发 worker 下零崩溃。
推荐理由:原文拆解了启动与流式两个阶段的具体优化手段,读者可迁移其缓存与预取思路到自己的数据管线。
Mistral AI 发布 Mistral AI Studio,一个面向企业团队的生产级 AI 平台,现已开放 private beta 报名。