GPU 管理：闲置 GPU 为何是新的停飞飞机
Hugging Face 指出，AI 行业的下一个真实瓶颈正从模型智能转向 GPU 利用率，闲置 GPU 就像停在地面的飞机，成本按小时累积而产出只在计算时产生。
#部署/工程
Hugging Face BlogAI 评分3434
Berkeley AI ResearchAI 评分3636 Berkeley AI Research 提出 ABBEL：用信念状态监督 LLM 长程交互中的摘要更新
Berkeley AI Research 提出 ABBEL 框架，将 LLM 的摘要以自然语言"信念状态"形式隔离并监督其信息内容，通过受自编码器启发的信念评分（belief grading）奖励能重建最新观测的信念。在协作编程基准 CollabBench 上，ABBEL-rec-BG 将全上下文模型的性能差距缩小约 50%，训练步数从 100 降至 50，峰值 token 数也低于全上下文设置。
Hugging Face BlogAI 评分5959 Diffusers 原生支持 Nunchaku 4-bit 扩散模型推理
Diffusers 现可通过 from_pretrained() 直接加载 Nunchaku 量化检查点，无需单独推理引擎或本地 CUDA 编译。
Hugging Face BlogAI 评分5757 Hugging Face Blog：模型路由远不止分类问题，成本、复杂度、延迟各有陷阱
Hugging Face Blog 与 IBM Research 撰文指出，在 agentic 系统中做模型路由远不止分类问题，而是系统优化问题。
Hugging Face Blog精选AI 评分8181 Hugging Face 发布 Thinking Machines 的多模态模型 Inkling 及 Inkling-Small
Hugging Face 上线 Thinking Machines Lab 的 Inkling 系列开源多模态模型，Inkling 为 975B 总参数、41B 激活参数的 decoder-only MoE 模型，原生支持图像、文本、音频输入与 1M 上下文，在 45 trillion token 上训练。
推荐理由：原文给出架构细节与各部署配置的显存开销，读者可据此判断自己硬件能否跑起来。
Hugging Face Blog精选AI 评分6060 PyTorch Profiling 系列第三篇：在 profiler 下对比六种注意力实现
Hugging Face 发布 Profiling in PyTorch 系列第三篇，用 NVIDIA A100-SXM4-80GB 逐一 profile 注意力实现：手写朴素注意力、把 masked_fill 改成 masked_fill_ 的原地版本，以及 SDPA 的 math、efficient、flash、cudnn 四个后端。
推荐理由：通过同一注意力实现在 profiler 下的六种形态对比，读者能学会先猜测再看 trace 的具体分析方法。
Mistral AIAI 评分4545 Mistral Studio 为 Prompts 和 Skills 提供系统化记录
Mistral Studio 为 Prompts 和 Skills 提供集中式系统记录，支持版本控制、归属管理和可追溯性，让 AI 行为可治理、可发现。Studio 提供不可变版本、回滚、清晰归属、分类标签和审计日志，业务专家可直接编辑并经 CI/CD 流程发布生产版本，Skills 可作为 MCP servers 从 Studio 直接调用。该功能现已向 Mistral Studio 客户开放。
Hugging Face BlogAI 评分5959 Hugging Face transformers vLLM 后端达到原生推理速度
Hugging Face 宣布 transformers 的 vLLM 建模后端在多种 LLM 架构上已达到或超过 vLLM 手写原生实现的速度，模型作者只需加 --model-impl transformers 标志即可免费获得极速推理。
Hugging Face BlogAI 评分4444 Hugging Face 与 Amazon SageMaker AI 推出一键深链集成
Hugging Face 与 Amazon SageMaker AI 推出深链集成，支持模型页上的 Customize on SageMaker AI 和 Deploy on SageMaker AI 按钮一键直达 SageMaker Studio，模型预加载、环境自动配置。
Hugging Face BlogAI 评分5858 Hugging Face 模型上线 Microsoft Foundry Managed Compute
Microsoft 在 Build 2026 宣布 Foundry Managed Compute，并推出 Hugging Face models on Foundry，把 Hugging Face 生态的开源权重模型以每周更新的精选目录形式提供，可一键部署到 Foundry Managed Compute。
Berkeley AI ResearchAI 评分5858 Berkeley AI Research 提出智能体时代数据系统的三大研究方向
Berkeley AI Research 发布观点文章，指出随着 GPT-4 级能力成本从每百万 token 约 $30 降至 $1 以下、部分提供商已低于 $0.10。
Hugging Face BlogAI 评分5959 Hugging Face 与 SkyPilot 联合推出零 egress 跨云存储挂载
Hugging Face 与 SkyPilot 联合发布 store: hf 存储后端，用一个 hf:// URL 和已有的 HF_TOKEN 就能把 Hugging Face Bucket 或任意 Hub 仓库挂载进 SkyPilot 任务。
Hugging Face BlogAI 评分5656 Hugging Face Kernels 项目重大更新：新增 kernel 仓库类型与安全机制
Hugging Face 官方博客介绍 Kernels 项目近期的重大更新，Hub 上新增了 kernel 仓库类型，可展示 kernel 支持的加速器、操作系统和后端版本，并提升可发现性。
OpenAI NewsAI 评分3636 OpenAI 用 core dump 分析修复 18 年前的软件 bug
OpenAI 工程师通过大规模 core dump 分析排查罕见的基础设施崩溃，发现了一处硬件故障和一个存在 18 年的软件 bug。该方法用于调试基础设施中难以复现的崩溃问题。
Hugging Face BlogAI 评分5656 Hugging Face 教你用一条命令在 HF Jobs 上运行 vLLM 服务器
Hugging Face 官方博客介绍如何用 hf jobs run 一条命令在 HF 基础设施上启动私有、OpenAI 兼容的 vLLM 端点，无需配置服务器或 Kubernetes，按秒计费（a10g-large 为 $1.50/hour）。
Google ResearchAI 评分4545 Google Research 用线性弹性缓存优化云成本
Google Research 在 CIDR 发布论文提出线性弹性缓存（linear elastic caching），将页面淘汰建模为 ski rental 问题，用轻量级决策树模型动态预测页面 TTL，在内存占用与缓存未命中之间权衡以降低总拥有成本（TCO）。
Mistral AIAI 评分5858 Mistral AI 为 Connectors 推出管理控制、API 密钥作用域与调试器等新能力
Mistral AI 为 Connectors 推出多项新能力：GA 的增强管理控制可按 workspace 或 org 设置连接器访问并逐个开关工具，GA 的带连接器作用域的 API 密钥用于防止自动化任务冒用身份，GA 的多账号连接器允许一个连接器绑定多个登录账号。
OpenAI News精选AI 评分6262 OpenAI 与 Broadcom 发布 LLM 推理芯片 Jalapeño
OpenAI 与 Broadcom 联合推出 Jalapeño，一款专为 LLM 推理打造的定制 AI 芯片，旨在提升 AI 系统的性能、效率与扩展能力。
Hugging Face Blog精选AI 评分6464 Hugging Face 用开源工具与 GLM-5.2 把 huggingface_hub 发布改为每周一次
Hugging Face 将 huggingface_hub 的发布节奏从每 4 到 6 周一次改为每周一次，整条流程由单个 GitHub Actions 工作流驱动。
推荐理由：原文给出可直接 fork 的信任校验闭环，即确定性清单加模型草稿加校验重提示，可迁移到任何需要生成发布说明的项目。
Google ResearchAI 评分5353 Google Research 与 UC San Diego 探索用退役手机主板搭建低碳计算平台
Google Research 与 University of California San Diego 合作探索 phone cluster computing，把退役智能手机的主板取出组集群，作为通用计算平台复用。
Hugging Face BlogAI 评分5555 Hugging Face 博客：PyTorch Profiling 系列第二篇，从 nn.Linear 到融合 MLP
Hugging Face Blog 发布 PyTorch Profiling 系列第二篇，用 profiler trace 对比 nn.Linear 与三层 GeGLU MLP 在 eager、torch.compile 和 Liger 手写 kernel 三种设置下的表现。
OpenAI NewsAI 评分2626 通过 Oracle Cloud 承诺使用 OpenAI 模型和 Codex
OpenAI 模型和 Codex 现已可通过 Oracle Cloud 访问，企业可利用现有的 Oracle Cloud 承诺构建和部署 AI，并获得企业级安全与治理能力。
Hugging Face BlogAI 评分5656 Hugging Face 官方教程：把 GitHub CI 迁移到 Hugging Face Jobs
Hugging Face 官方博客介绍如何让 GitHub Actions 的 CI 作业改在 Hugging Face Jobs 上运行，通过 huggingface/jobs-actions 桥接把 GitHub 作业转成 HF Job 内的临时自托管 runner，只需把 runs-on 改为 hf-jobs-* 标签。
Hugging Face Blog精选AI 评分7474 Hugging Face 发布 Holo3.1 系列计算机使用智能体模型
Hugging Face 发布 Holo3.1 系列计算机使用智能体模型，基于 Qwen 家族，提供 0.8B、4B、9B 和 35B-A3B 四种尺寸，并首次提供 FP8、Q4 GGUF、NVFP4 量化权重以支持本地推理。
推荐理由：给出了各尺寸在移动与桌面基准上的具体提升和量化后的吞吐数据，可据此评估本地部署的可行性。
Hugging Face BlogAI 评分5555 JetBrains 发布 12B MoE 开源模型 Mellum2，每 token 仅激活 2.5B 参数
JetBrains 发布开源 Mixture-of-Experts 模型 Mellum2，总参数 12B、每 token 激活 2.5B，面向低延迟文本与代码工作负载，采用 Apache 2.0 许可。
OpenAI NewsAI 评分4444 OpenAI 在 Michigan 启动 Stargate 1GW 数据中心项目
OpenAI 在 Michigan 为 Stargate 项目破土动工，建设一座 1GW 数据中心，用于扩展 AI 基础设施的可及性、创造就业并支持当地社区。
Hugging Face BlogAI 评分5858 Hugging Face 博客：PyTorch torch.profiler 新手入门指南
Hugging Face 官方博客发布 Profiling in PyTorch 系列第一篇，以一个 matmul + add 的小脚本为例，手把手教读者用 torch.profiler 采集并解读 profiler 表格与 Perfetto trace。
Mistral AIAI 评分5858 Mistral AI 在 AI Now Summit 2026 发布工业工程 AI 堆栈、升级 Vibe 智能体并公布 10 MW 数据中心
Mistral AI 在 AI Now Summit 2026 发布面向工业工程的一体化 AI 堆栈，与 Airbus、BMW、ASML 合作优化设计、仿真与生产流程，同时保障数据安全与知识产权控制。
Hugging Face Blog精选AI 评分6767 Hugging Face 在 TRL 中推出 Delta Weight Sync，用 Hub Bucket 传输稀疏权重增量
Hugging Face 在 TRL 落地 Delta Weight Sync PR（huggingface/trl#5417，分支 delta-weight-sync）。
推荐理由：原文把稀疏增量同步的原理、协议和实测暂停时长一并给出，读者可据此评估它对自身训练部署的迁移成本。
Mistral AIAI 评分5656 Mistral Studio 发布 Connectors：内置与自定义 MCP 全面开放 API/SDK
Mistral AI 在 Studio 发布 Connectors，内置连接器与自定义 MCP 现已通过 API/SDK 用于所有模型和 Agent 调用，并支持直接工具调用与 human-in-the-loop 审批流。
OpenAI NewsAI 评分4444 OpenAI 与 Dell 合作，将 Codex 带入混合与本地企业环境
OpenAI 与 Dell 达成合作，将 Codex 带入混合与本地部署的企业环境，帮助企业安全地在自身数据和工作流中部署 AI 编码智能体。
Hugging Face Blog精选AI 评分6363 Hugging Face 解锁 continuous batching 的异步化：GPU 活跃率提升至 99.4%
Hugging Face 博客讲解如何通过分离 CPU 与 GPU 工作负载来提升 LLM 推理性能。同步批处理下 CPU 与 GPU 交替等待，8K tokens、batch size 32、8B 模型的测试中 GPU 空闲占 24.0%，总耗时 300.6 秒。
推荐理由：原文用可复现的 profile 数据展示了同步批处理的空闲浪费，并给出基于 CUDA streams 与 events 的具体改造路径。
OpenAI NewsAI 评分3939 OpenAI 如何为 Codex 在 Windows 上构建安全有效的沙箱
OpenAI 介绍了如何为 Codex 在 Windows 上构建安全有效的沙箱，实现受控的文件访问和网络限制。该方案让 Codex 能在 Windows 环境中运行，同时通过沙箱机制约束其文件与网络权限，保障执行安全。
Hugging Face BlogAI 评分4545 AWS 基础模型训练与推理的构建模块
Hugging Face 发布系列文章首篇，分析 AWS 基础设施与开源软件栈在基础模型预训练、后训练和推理全生命周期中的集成方式。AWS 提供 P5（H100/H200）、P6（B200/B300）等 EC2 实例，覆盖计算、网络、存储三层构建模块。文章面向 ML 工程师与研究者，为理解系统瓶颈和扩展特性提供技术基础。
OpenAI NewsAI 评分1010 企业如何规模化落地 AI
OpenAI 阐述企业如何把 AI 从早期试验推进到持续产生复利式影响，路径涵盖信任、治理、工作流设计与规模化质量把控四个环节。文章属方法论与分析类内容，未给出具体模型版本、benchmark 分数或价格数据。
OpenAI NewsAI 评分3434 OpenAI 如何安全运行 Codex
OpenAI 通过沙箱、审批机制、网络策略和智能体原生遥测，安全合规地运行 Codex 编码智能体。这套方案支持企业在内部安全落地编码智能体，兼顾安全与合规要求。
Hugging Face BlogAI 评分4545 vLLM V0 到 V1 迁移：RL 训练中先保正确性再谈优化
PipelineRL 通过修复 processed rollout logprobs、V1 运行时默认值、inflight 权重更新路径和 fp32 lm_head 四项问题，使 vLLM V1 在 GSPO 训练中的 clip rate、KL、entropy 和 reward 指标回归 vLLM V0 参考轨迹。
OpenAI NewsAI 评分4444 OpenAI 通过 OCP 开源 MRC（多路径可靠连接）协议，提升大规模 AI 训练网络性能
OpenAI 通过 OCP 开源了 MRC（Multipath Reliable Connection，多路径可靠连接）协议，用于提升大规模 AI 训练集群的网络弹性与性能。该协议面向超算网络场景，旨在改善大规模 AI 训练网络的可靠性与吞吐表现。
OpenAI NewsAI 评分3838 OpenAI 如何大规模提供低延迟语音 AI
OpenAI 重建了其 WebRTC 技术栈，以支撑实时语音 AI 的低延迟、全球规模和流畅的对话轮次切换。文章介绍了这一重建方案如何同时满足低延迟、全球扩展与自然对话交互的需求。
OpenAI NewsAI 评分4444 OpenAI 扩展 Stargate 构建智能时代的算力基础设施
OpenAI 扩展 Stargate 项目，新增数据中心容量以构建支撑 AGI 的算力基础设施，满足不断增长的 AI 需求。