NVIDIA cuDSS 正式发布,加速工程与科学仿真
NVIDIA cuDSS 今日正式发布,这是一款 CUDA-X 库,将工程与科学仿真中的大规模稀疏系统求解迁移到 GPU 上,以缩短出结果时间并提升仿真吞吐量。
NVIDIA cuDSS 今日正式发布,这是一款 CUDA-X 库,将工程与科学仿真中的大规模稀疏系统求解迁移到 GPU 上,以缩短出结果时间并提升仿真吞吐量。
NVIDIA 宣布 NVIDIA Factory Operations Blueprint (FOX) 已在 GitHub 开放早期访问,供开发者构建和部署常驻工厂管理智能体以及视觉检测、根因分析、报告生成、车队管理等专用智能体,可接入 NVIDIA Cosmos、Nemotron 模型及 CAD、PLM、仿真软件和 IT/OT 系统。
NVIDIA 宣布其欧洲、北欧、非洲和中亚的云伙伴正在扩展区域算力,围绕主权、开放和安全三条主线推进。
Google Cloud 与 NVIDIA 宣布 Vera Rubin 基础设施 A5X 实例正式可用,下月开放并计划扩展至欧洲,为云客户提供面向训练、推理和大规模强化学习的一体化平台。
推荐理由:原文说明了A5X实例的硬件构成和首批客户用例,读者可据此判断该平台面向的训练与强化学习负载形态。
NVIDIA 在 GTC Berlin 公布本地 AI 硬件全线进展:DGX Spark 64GB 版本 10 月 23 日起出货,NVIDIA Sync 本月支持最多八台 DGX Spark 组集群并新增 Model Launcher,DGX Station for Windows 将于 12 月上市。
推荐理由:原文系统梳理了本地 AI 硬件产品线的分工与配套软件更新,读者可据此判断本地算力方案的选型边界。
NVIDIA CEO 黄仁勋在 GTC Berlin 2026 主题演讲中宣布多项新品,包括 Vera Rubin AI 工厂参考设计 NVIDIA DSX POD,可将现场部署时间从六个月缩短至 14 天,其 AI Factory 平台可减少最多 100% 冷却用水和最多 30% 电力消耗。
推荐理由:梳理了主题演讲中围绕智能体安全、开源模型和数据中心部署的具体产品与架构,便于对照理解其欧洲布局的落地路径。
DeepSeek 开源了支撑 V4.1 Flash 的生产推理栈 DeepInfer,官方披露单集群 155T tokens/day、96% 输入缓存命中、$38/加速卡小时的离峰收入。
推荐理由:原文梳理了开源推理栈的经济数据与vLLM的对照复现,读者可据此判断推理盈利说法的边界。
Latent Space 在 AIE New York 访谈 Tenex 的 Alex Lieberman 和 CJ Hess,讨论按交付产出(story points)而非工时付费的模式:Tenex 已有 75 人,客户一半是 Fortune 2000、一半是年收入 100-500 million 的中型企业,最高与最低薪工程师收入差距约 4X,今年工程师产出约翻倍。
AWS 与 i14 合作,用 TorchNeuron Native 原生 PyTorch 在一台 trn2.48xlarge 实例上训练并部署 i14 的 Laplace 3B 线性注意力模型,训练吞吐约 120,000 tokens per second,推理在 1,280 并发序列下达到 11,544 output tokens per second。
Latent Space 在 AIE NYC 期间访谈 SF Compute CEO Evan Conrad,讨论算力交易市场如何运作。Evan 用酒店类比说明公司从转租集群起步,逐步自建了云的运营能力以实现物理结算,即让买家真正拿到可用算力而非现金赔付。
DeepSeek 以 Apache License 2.0 开源了内部推理框架 DeepInfer,即支撑其 V4.1-Flash 模型快速规模化生成回答的推理引擎。
Smartsheet 推出正式可用的 MCP Server,让 AI 助手通过标准化协议读写和管理 Smartsheet 数据,覆盖 40 多个用于探索、创建和管理 sheets、rows、columns 及 automations 的工具,支持用自然语言更新任务状态、创建行和修改项目结构。
Google 宣布开源 TorchTPU,让 PyTorch 应用可迁移到 Google 的 TPU 芯片和 Google Cloud,只需简单配置改动、无需重写代码,与 Amazon 前一日发布的 TorchNeuron 形成对 Nvidia 芯片主导地位的夹击。
Smartsheet 推出正式可用的 Model Context Protocol (MCP) Server,通过标准化协议让 AI 助手读取、写入和管理 Smartsheet 数据,覆盖 40 多个用于探索、创建和管理 sheets、rows、columns 与 automations 的工具。
Octave Reliance 用 Amazon Bedrock 搭起三层多租户 AI 基础,用 Cohere Embed v4 嵌入 20 亿份文档并落地 Complaint Triage Assistant,单个用例部署时间缩短 50%。
AWS 博客演示了在 Amazon SageMaker HyperPod 上用 SFT 和 GRPO 微调 GPT-OSS-20B,使其按指令用目标语言进行推理。
Amazon Quick 与 Amazon Bedrock AgentCore 结合,让供应链管理者用自然语言对话即可跨 ERP、监控、采购、邮件等系统获取可执行答案,将原本 45–60 分钟、跨五个系统的手动查询压缩为几分钟内的三次对话。
Eon 用 Amazon Bedrock AgentCore Gateway 替代了分散的凭据和本地 MCP 进程,为开发者与自主 SRE agent 提供跨 AWS、GCP、Azure 三朵云的统一调查工具访问。
AWS 与 Keyfactor 联合推出参考架构,用 Keyfactor EJBCA 结合 AWS 服务为 AI 智能体建立 X.509 PKI 加密身份,弥补 MCP 缺乏内置认证标准的缺口。
AWS 官方博客介绍如何用 AWS Agent Registry 在运行时发现工具,替代把所有工具硬编码进编排器的做法,走 Discover → Instantiate → Execute 循环。
Amazon Bedrock 现可通过跨区域推理(CRIS)从 Canada (Central) ca-central-1 和 Canada West (Calgary) ca-west-1 区域调用 OpenAI GPT-5.6(Sol、Terra、Luna)、GPT-6(Astra、Sol、Luna)和 GPT-6.1 Sol,推理在北美处理。
Mistral AI 发布 Voxtral 3,包含语音转文本、文本转语音模型与基于 LiveKit 的语音 Agent SDK,把听、推理、工具调用与说话整合进单一实时流式管线,每轮对话在 1 秒内完成。
推荐理由:原文给出各模型定价与多项评测口径,读者可据此比较它与现有语音方案的成本和适用场景。
Hugging Face 发布 TorchTPU,一个把 TPU 作为 PyTorch 原生后端的项目,Transformers、Diffusers 和 Kernels 可直接在 TPU 上运行,只需 device_map="tpu" 即可加载模型,不再依赖 torch_xla 或 Optimum TPU。
推荐理由:原文给出了从 torch_xla 迁移到原生后端的具体改动和实测加速数字,读者可据此评估 TPU 工作流的实际收益。
AWS Machine Learning Blog 系列第三篇演示了如何用 AtScale 作为语义层,在 AWS 上为智能体 AI 构建 Customer 360 场景。
AWS Machine Learning Blog 系列第三篇演示如何用 Strategy Mosaic 作为语义层,在 Amazon Redshift 和 Amazon Aurora 两个数据源上建模 Customer 360。
AWS Machine Learning Blog 演示了如何用 Denodo Platform 作为语义层,在 Amazon Bedrock AgentCore 上托管 Agentic AI 智能体,联邦 Amazon Aurora、Amazon Redshift 与本地 PostgreSQL 数据源,形成单一 customer 360 视图。
HPE 指出企业 AI 正从零散的 chatbot/copilot 试验转向业务基础层,核心指标应从 token 或 GPU-hour 成本转向"每个有效产出的成本"(effective cost per useful outcome)。
Cloudflare 在 Workers AI 上以预览形式发布 AI 模型 Clairic,称其从文档中抽取数据比大语言模型更快、更便宜,开放权重(open weights)随后跟进。
Hugging Face 发布 AnyLanguageModel 1.0,同时推出 swift-huggingface 1.0 和 swift-xet 1.0。
Hugging Face 的 PyTorch 团队发布 PyTorch 2.15 的 MPS 更新:FP8(torch.float8_e4m3fn)登陆 Mac,可用 F.scaled_mm 直接做缩放矩阵乘法,占用内存为 BF16 的一半。
推荐理由:原文用具体吞吐和内存数字说明了 MPS 后端在 Mac 上的能力变化,读者可据此判断本地推理与视频生成工作流的可行性提升。
Amazon Bedrock 现已正式为所有 Anthropic Claude 模型提供结构化输出,在 bedrock-runtime 和 bedrock-mantle 端点上均可返回符合 JSON schema 的响应,无需自定义解析、重试或后处理。
推荐理由:原文说明了约束解码如何把输出从概率性变为确定性,并给出 schema 缓存与最佳实践,可直接迁移到自己的集成中。
新的 Amazon SageMaker AI 客户现在只需几步即可进入完全配置好的 SageMaker Studio 环境,可用 Google、GitHub、Apple、Amazon 账号或邮箱直接注册,无需填写高级 AWS 账户信息、验证手机号或输入信用卡(大多数客户)。
微软推出新安全功能,将AI智能体视为类似内部威胁的风险源,其中最引人注目的是用于监控企业所用智能体的Guardian Agents,它是6月发布的Project Perception的一部分。
Amazon SageMaker JumpStart 在 2026 年 1 月至 9 月新增超过 100 个模型,覆盖 30 家提供商,其中 Alibaba(Qwen)贡献 29 个、NVIDIA 17 个、Mistral 7 个、Google 6 个 Gemma 4 变体。
AWS 发布 TorchNeuron 工具,让开发者只需修改一行配置即可将 PyTorch 编写的 AI 应用运行在自研 Trainium 芯片上,无需重写代码。AWS 称约 85% 的 AI 应用使用 PyTorch 构建,此举直接挑战 Nvidia CUDA 生态的默认地位。AWS 还表示将向 PyTorch 主项目贡献代码,移除与特定芯片绑定的部分,使框架更加硬件无关。
Hugging Face 官方博客介绍 TorchNeuron,它为 PyTorch 在 AWS Trainium 上提供新的原生后端,Transformers、Diffusers 和 Kernels 已原生支持,自 Oct. 20, 2026 起以 public beta 形式提供,可用 pip install torch-neuronx 安装。
TwelveLabs 的 Pegasus 1.5 视频语言模型现已在 Amazon Bedrock 的 US West (Oregon) 区域可用,模型ID为 twelvelabs.pegasus-1-5-v1:0。
AWS 博客介绍在 vLLM 中通过双向 KV cache 传输让 prefill 节点跨轮次复用 decode 节点保留的 KV,减少多轮对话中重复的 prefill 计算。
AWS 与 vLLM 社区推出基于推送(push)的 NIXL KV 传输连接器,将 prefill 后的传输协调与设置移出关键路径,降低 TTFT 和 TPOT。
Deepgram 将 Nova-3 语音转文字模型移植到 AWS Trainium2,用于离线批量工作负载,在单台 Amazon EC2 trn2.3xlarge 实例上运行 8 个模型副本,每美元处理的音频量比原有计算方案多 11–70%。