Hugging Face 与 NVIDIA 教你用 Isaac Lab 训练 Microduck 行走并部署到真机
Hugging Face Blog 发布教程,介绍如何用 Isaac Lab 与 Newton 训练开源双足机器人 Microduck 的行走策略,导出 ONNX 后部署到真机。
推荐理由:教程给出从仿真训练到真机部署的完整命令与接口约束,读者可照此复现双足机器人行走策略的迁移流程。
技术方向
怎么把模型跑得更快更省钱:推理加速、显存与成本、服务部署与基础设施选型。
88 条精选近 30 天 29 条共收录 713 条
Hugging Face Blog 发布教程,介绍如何用 Isaac Lab 与 Newton 训练开源双足机器人 Microduck 的行走策略,导出 ONNX 后部署到真机。
推荐理由:教程给出从仿真训练到真机部署的完整命令与接口约束,读者可照此复现双足机器人行走策略的迁移流程。
Google Cloud 与 NVIDIA 宣布 Vera Rubin 基础设施 A5X 实例正式可用,下月开放并计划扩展至欧洲,为云客户提供面向训练、推理和大规模强化学习的一体化平台。
推荐理由:原文说明了A5X实例的硬件构成和首批客户用例,读者可据此判断该平台面向的训练与强化学习负载形态。
NVIDIA 在 GTC Berlin 公布本地 AI 硬件全线进展:DGX Spark 64GB 版本 10 月 23 日起出货,NVIDIA Sync 本月支持最多八台 DGX Spark 组集群并新增 Model Launcher,DGX Station for Windows 将于 12 月上市。
推荐理由:原文系统梳理了本地 AI 硬件产品线的分工与配套软件更新,读者可据此判断本地算力方案的选型边界。
NVIDIA CEO 黄仁勋在 GTC Berlin 2026 主题演讲中宣布多项新品,包括 Vera Rubin AI 工厂参考设计 NVIDIA DSX POD,可将现场部署时间从六个月缩短至 14 天,其 AI Factory 平台可减少最多 100% 冷却用水和最多 30% 电力消耗。
推荐理由:梳理了主题演讲中围绕智能体安全、开源模型和数据中心部署的具体产品与架构,便于对照理解其欧洲布局的落地路径。
DeepSeek 开源了支撑 V4.1 Flash 的生产推理栈 DeepInfer,官方披露单集群 155T tokens/day、96% 输入缓存命中、$38/加速卡小时的离峰收入。
推荐理由:原文梳理了开源推理栈的经济数据与vLLM的对照复现,读者可据此判断推理盈利说法的边界。
Mistral AI 发布 Voxtral 3,包含语音转文本、文本转语音模型与基于 LiveKit 的语音 Agent SDK,把听、推理、工具调用与说话整合进单一实时流式管线,每轮对话在 1 秒内完成。
推荐理由:原文给出各模型定价与多项评测口径,读者可据此比较它与现有语音方案的成本和适用场景。
Hugging Face 发布 TorchTPU,一个把 TPU 作为 PyTorch 原生后端的项目,Transformers、Diffusers 和 Kernels 可直接在 TPU 上运行,只需 device_map="tpu" 即可加载模型,不再依赖 torch_xla 或 Optimum TPU。
推荐理由:原文给出了从 torch_xla 迁移到原生后端的具体改动和实测加速数字,读者可据此评估 TPU 工作流的实际收益。
Hugging Face 的 PyTorch 团队发布 PyTorch 2.15 的 MPS 更新:FP8(torch.float8_e4m3fn)登陆 Mac,可用 F.scaled_mm 直接做缩放矩阵乘法,占用内存为 BF16 的一半。
推荐理由:原文用具体吞吐和内存数字说明了 MPS 后端在 Mac 上的能力变化,读者可据此判断本地推理与视频生成工作流的可行性提升。
Amazon Bedrock 现已正式为所有 Anthropic Claude 模型提供结构化输出,在 bedrock-runtime 和 bedrock-mantle 端点上均可返回符合 JSON schema 的响应,无需自定义解析、重试或后处理。
推荐理由:原文说明了约束解码如何把输出从概率性变为确定性,并给出 schema 缓存与最佳实践,可直接迁移到自己的集成中。
AWS SMGS Operations 团队分享了基于 Amazon Bedrock AgentCore Evaluations 的九阶段评估框架,覆盖从首次提交到生产响应的完整智能体生命周期,用于保障面向 AWS 全球现场销售的多智能体系统质量。
推荐理由:原文用真实生产故障和九阶段框架展示了如何把智能体质量从一次性验收变成贯穿生命周期的持续机制,可迁移性强。
Black Forest Labs 发布 56 亿参数的开源权重图像模型 FLUX 3 Image Klein,支持文生图、图像编辑和最多十张参考图生成,具备原生 4K 输出、像素级精确编辑和边界框定位元素。
推荐理由:原文给出了参数量、显存门槛和许可条款,读者可以据此判断它能否在本地工作流中替代闭源图像模型。
Black Forest Labs 的 FLUX.3 Image Klein 已可在 Diffusers 中使用,一个模型同时支持文生图、多参考图生图和 bounding box 布局控制。
推荐理由:原文拆解了架构与显存速度数据,读者可据此判断能否在现有硬件上跑起来。
AWS 博客介绍 Grok 4.7 已在 Amazon Bedrock 上线,并构建一个工具调用智能体,在三个需要搜索而非查表的任务上以四个 reasoning effort 档位各跑 6 次共 72 次,答对 67 次:xhigh 全对 18/18,low 答对 15/18 但输出 token 约为 xhigh 的八分之一。
推荐理由:原文给出可复现的评测设计与四档推理档位的 token 与正确率对照,读者可据此在自己任务上量测成本质量权衡。
Ai2 团队用 GPU 时间预算、层级公平份额分配和时间片合约取代了原有的优先级调度器,把 GPU 时间分配从逐案协商变成透明的预算流程。新系统要求每个请求由预算支撑,配合 7 天回看窗口的公平份额排序和 8 小时最小运行时保护,30 天测试期内团队拿到了 98% 应得 GPU 小时,集群占用率保持 98%,调试任务 p90 等待时间从 2 小时降到 30 秒,需人工介入的维修下降 74%。
推荐理由:原文完整拆解了从优先级调度到预算制调度的迁移过程与量化收益,可迁移性强。
Z.ai(智谱 AI)的 GLM 5.3 现已在 Amazon Bedrock 上以全托管 API 提供,这是一款 753B 参数的 MoE 模型,面向编码与长程智能体任务优化。
推荐理由:教程给出调用方式与缓存配置细节,可直接迁移到自己的 Bedrock 项目中落地。
NVIDIA 宣布 DGX Spark 将于本月推出 64GB 统一内存版本,10 月 23 日起在 Acer、ASUS、Dell、Gigabyte、HP、MSI 开售,起价 $4,999,预装 DGX OS 与 NVIDIA AI 软件栈,支持在设备本地运行最高 100-billion-parameter 模型。
推荐理由:原文给出配置、价格与组网扩展路径,读者可据此评估本地跑智能体的可行方案。
Olmo-core 3 是面向大规模 MoE 训练的开放框架升级版,可扩展到万亿参数规模,是下一代 Olmo 的核心系统之一。
推荐理由:原文给出吞吐对比与并行策略取舍,读者可据此评估开放 MoE 训练栈的实际收益。
AWS 宣布 Claude Sonnet 5.5 在 Amazon Bedrock 和 Claude Platform on AWS 上可用,定位为面向聚焦编码与知识工作的更高效 Sonnet 模型,多数任务单任务成本更低、速度更快。
推荐理由:官方给出 Sonnet 5.5 在 Amazon Bedrock 上的能力定位与调用示例,可据此判断它适合承接哪类持续运行的编码任务。
微软研究院对移动机器人操作负载的系统性测量显示,把物理 AI 推理从机载 GPU 卸载到边缘或云端 GPU 可提升任务表现并延长续航。
推荐理由:微软对机器人推理负载的系统性测量显示,把推理从机载 GPU 卸载到边缘或云端可提升任务成功率与续航,并给出可复用的 Kubernetes 工具链。
Google 公布 Private AI Compute 的新架构,将持久化服务端记忆引入该平台,使 AI 助手能在跨设备场景下保留上下文。数据存放在加密存储中,解密密钥仅保留在用户个人设备上,模型需要访问时通过端到端加密通道连接云端安全隔离区,在隔离内存中临时解密、处理并重新加密。
推荐理由:Google 公开了 Private AI Compute 的服务端持久记忆架构,读者可了解云端 AI 如何在保留设备端隐私标准的前提下跨设备记忆。