OpenAI 用 core dump 分析修复 18 年前的软件 bug
OpenAI 工程师通过大规模 core dump 分析排查罕见的基础设施崩溃,发现了一处硬件故障和一个存在 18 年的软件 bug。该方法用于调试基础设施中难以复现的崩溃问题。
OpenAI 工程师通过大规模 core dump 分析排查罕见的基础设施崩溃,发现了一处硬件故障和一个存在 18 年的软件 bug。该方法用于调试基础设施中难以复现的崩溃问题。
Hugging Face 官方博客介绍如何用 hf jobs run 一条命令在 HF 基础设施上启动私有、OpenAI 兼容的 vLLM 端点,无需配置服务器或 Kubernetes,按秒计费(a10g-large 为 $1.50/hour)。
Google Research 在 CIDR 发布论文提出线性弹性缓存(linear elastic caching),将页面淘汰建模为 ski rental 问题,用轻量级决策树模型动态预测页面 TTL,在内存占用与缓存未命中之间权衡以降低总拥有成本(TCO)。
Mistral AI 为 Connectors 推出多项新能力:GA 的增强管理控制可按 workspace 或 org 设置连接器访问并逐个开关工具,GA 的带连接器作用域的 API 密钥用于防止自动化任务冒用身份,GA 的多账号连接器允许一个连接器绑定多个登录账号。
OpenAI 与 Broadcom 联合推出 Jalapeño,一款专为 LLM 推理打造的定制 AI 芯片,旨在提升 AI 系统的性能、效率与扩展能力。
Hugging Face 将 huggingface_hub 的发布节奏从每 4 到 6 周一次改为每周一次,整条流程由单个 GitHub Actions 工作流驱动。
推荐理由:原文给出可直接 fork 的信任校验闭环,即确定性清单加模型草稿加校验重提示,可迁移到任何需要生成发布说明的项目。
Google Research 与 University of California San Diego 合作探索 phone cluster computing,把退役智能手机的主板取出组集群,作为通用计算平台复用。
Hugging Face Blog 发布 PyTorch Profiling 系列第二篇,用 profiler trace 对比 nn.Linear 与三层 GeGLU MLP 在 eager、torch.compile 和 Liger 手写 kernel 三种设置下的表现。
OpenAI 模型和 Codex 现已可通过 Oracle Cloud 访问,企业可利用现有的 Oracle Cloud 承诺构建和部署 AI,并获得企业级安全与治理能力。
Hugging Face 官方博客介绍如何让 GitHub Actions 的 CI 作业改在 Hugging Face Jobs 上运行,通过 huggingface/jobs-actions 桥接把 GitHub 作业转成 HF Job 内的临时自托管 runner,只需把 runs-on 改为 hf-jobs-* 标签。
Hugging Face 发布 Holo3.1 系列计算机使用智能体模型,基于 Qwen 家族,提供 0.8B、4B、9B 和 35B-A3B 四种尺寸,并首次提供 FP8、Q4 GGUF、NVFP4 量化权重以支持本地推理。
推荐理由:给出了各尺寸在移动与桌面基准上的具体提升和量化后的吞吐数据,可据此评估本地部署的可行性。
JetBrains 发布开源 Mixture-of-Experts 模型 Mellum2,总参数 12B、每 token 激活 2.5B,面向低延迟文本与代码工作负载,采用 Apache 2.0 许可。
OpenAI 在 Michigan 为 Stargate 项目破土动工,建设一座 1GW 数据中心,用于扩展 AI 基础设施的可及性、创造就业并支持当地社区。
Hugging Face 官方博客发布 Profiling in PyTorch 系列第一篇,以一个 matmul + add 的小脚本为例,手把手教读者用 torch.profiler 采集并解读 profiler 表格与 Perfetto trace。
Mistral AI 在 AI Now Summit 2026 发布面向工业工程的一体化 AI 堆栈,与 Airbus、BMW、ASML 合作优化设计、仿真与生产流程,同时保障数据安全与知识产权控制。
Hugging Face 在 TRL 落地 Delta Weight Sync PR(huggingface/trl#5417,分支 delta-weight-sync)。
推荐理由:原文把稀疏增量同步的原理、协议和实测暂停时长一并给出,读者可据此评估它对自身训练部署的迁移成本。
Mistral AI 在 Studio 发布 Connectors,内置连接器与自定义 MCP 现已通过 API/SDK 用于所有模型和 Agent 调用,并支持直接工具调用与 human-in-the-loop 审批流。
OpenAI 与 Dell 达成合作,将 Codex 带入混合与本地部署的企业环境,帮助企业安全地在自身数据和工作流中部署 AI 编码智能体。
Hugging Face 博客讲解如何通过分离 CPU 与 GPU 工作负载来提升 LLM 推理性能。同步批处理下 CPU 与 GPU 交替等待,8K tokens、batch size 32、8B 模型的测试中 GPU 空闲占 24.0%,总耗时 300.6 秒。
推荐理由:原文用可复现的 profile 数据展示了同步批处理的空闲浪费,并给出基于 CUDA streams 与 events 的具体改造路径。
OpenAI 介绍了如何为 Codex 在 Windows 上构建安全有效的沙箱,实现受控的文件访问和网络限制。该方案让 Codex 能在 Windows 环境中运行,同时通过沙箱机制约束其文件与网络权限,保障执行安全。
Hugging Face 发布系列文章首篇,分析 AWS 基础设施与开源软件栈在基础模型预训练、后训练和推理全生命周期中的集成方式。AWS 提供 P5(H100/H200)、P6(B200/B300)等 EC2 实例,覆盖计算、网络、存储三层构建模块。文章面向 ML 工程师与研究者,为理解系统瓶颈和扩展特性提供技术基础。
OpenAI 阐述企业如何把 AI 从早期试验推进到持续产生复利式影响,路径涵盖信任、治理、工作流设计与规模化质量把控四个环节。文章属方法论与分析类内容,未给出具体模型版本、benchmark 分数或价格数据。
OpenAI 通过沙箱、审批机制、网络策略和智能体原生遥测,安全合规地运行 Codex 编码智能体。这套方案支持企业在内部安全落地编码智能体,兼顾安全与合规要求。
PipelineRL 通过修复 processed rollout logprobs、V1 运行时默认值、inflight 权重更新路径和 fp32 lm_head 四项问题,使 vLLM V1 在 GSPO 训练中的 clip rate、KL、entropy 和 reward 指标回归 vLLM V0 参考轨迹。
OpenAI 通过 OCP 开源了 MRC(Multipath Reliable Connection,多路径可靠连接)协议,用于提升大规模 AI 训练集群的网络弹性与性能。该协议面向超算网络场景,旨在改善大规模 AI 训练网络的可靠性与吞吐表现。
OpenAI 重建了其 WebRTC 技术栈,以支撑实时语音 AI 的低延迟、全球规模和流畅的对话轮次切换。文章介绍了这一重建方案如何同时满足低延迟、全球扩展与自然对话交互的需求。
OpenAI 扩展 Stargate 项目,新增数据中心容量以构建支撑 AGI 的算力基础设施,满足不断增长的 AI 需求。
DeepInfra 正式成为 Hugging Face Hub 的 Inference Provider,首批支持对话与文本生成任务,可调用 DeepSeek V4、Kimi-K2.6、GLM-5.1 等开源权重 LLM。
Mistral AI 宣布 Workflows 进入公开预览,作为企业 AI 的编排层,提供持久执行、可观测性和容错能力,帮助组织把 AI 流程从概念验证推进到生产。
推荐理由:原文拆解了企业 AI 落地的典型失败模式并给出对应机制,可迁移判断生产化编排层该具备什么。
OpenAI 深入解析 Codex 智能体循环,展示如何通过 WebSockets 和连接级缓存降低 Responses API 的开销并改善模型延迟。
伯克利 AI 研究团队提出梯度规划器 GRASP,通过将轨迹提升到虚拟状态实现跨时间并行优化、向状态迭代直接注入随机性以探索、并重塑梯度让动作获得清晰信号,从而让基于学习动力学(世界模型)的长时程规划变得实用。该方法针对长时程 rollout 中梯度爆炸/消失、非贪心结构导致的局部极小值以及高维视觉模型梯度脆弱等问题。
OpenAI 更新 Agents SDK,加入原生沙箱执行(native sandbox execution)和模型原生 harness(model-native harness),帮助开发者构建可安全、长时间跨文件与工具运行的智能体。
Hugging Face 发布 gradio.Server,它扩展自 FastAPI,让开发者用 React、Svelte 或纯 HTML/JS 等自定义前端,同时保留 Gradio 的队列、SSE 流式、并发控制、gradio_client 兼容与 ZeroGPU 支持。
Mistral AI 发布 CLI 工具 Spaces,用三条命令即可从零跑起带热重载、数据库和 Dockerfile 的多服务项目。
Hugging Face 给出两条迁移路径,让因 Anthropic 限制 Claude 模型访问而受影响的 OpenClaw、Pi、Open Code 智能体改用开源模型继续运行:通过 Hugging Face Inference Providers 托管调用(推荐 GLM-5),或用 llama.cpp 在本地跑 Qwen3.5-35B-A3B(32GB RAM 可用)。
OpenAI 用 Responses API、shell tool 和托管容器搭建了智能体运行时,让智能体在安全、可扩展的环境中携带文件、工具和状态运行。该方案把模型能力扩展为可执行任务的 agent,通过托管容器提供隔离的执行环境。
Hugging Face 在 Hub 上推出 Storage Buckets,一种可浏览、可用 Python 脚本或 hf CLI 管理的可变 S3 式对象存储,用于存放 checkpoint、优化器状态、处理后的数据分片和日志等中间产物。
推荐理由:原文说明了它与 Git 存储的分工边界以及 Xet 去重带来的成本收益,读者可据此判断是否迁移现有工作流。
Hugging Face Blog 发布长文,为 TRL 的异步训练器设计做调研,按七个维度(编排原语、rollout buffer 设计、权重同步协议、staleness 管理、partial rollout 处理、LoRA 支持、分布式训练后端)对比了16个从零围绕异步训练构建的开源库。
推荐理由:文章用七个维度拆解了16个开源RL库的异步训练设计,读者可据此对比选型并理解各自权衡。
Hugging Face 官方博客介绍 Ulysses Sequence Parallelism(来自 Snowflake AI Research 的 Arctic Long Sequence Training 协议)如何通过注意力头并行把长序列训练分布到多 GPU。
NXP 在 Hugging Face 博客发布在 i.MX 95 SoC 上部署 VLA 模型的实践指南,覆盖数据录制、ACT 与 SmolVLA 微调以及端侧优化。