高频交易公司竞相投入算力:自建数据中心、投资芯片初创
据 Bloomberg 报道,Jane Street、Hudson River Trading 等高频交易公司正投入数十亿美元争夺 AI 算力,用于以机器学习预测市场走势。
据 Bloomberg 报道,Jane Street、Hudson River Trading 等高频交易公司正投入数十亿美元争夺 AI 算力,用于以机器学习预测市场走势。
Anthropic基于多个企业部署经验建议企业评估合并子智能体,因为从Opus 4.5起的新模型可在单一循环中直接处理复杂计划,单智能体按需加载上下文往往在质量、成本和延迟上优于多智能体架构,一次对比中单智能体架构运行速度约为多智能体的两倍。
AWS 官方教程演示如何在 Amazon SageMaker AI 上用多轮强化学习(MTRL)训练托管在 Amazon Bedrock AgentCore 上的智能体,以 Wordle 为例走通部署、数据准备、训练、MLflow 监控与评测全流程。
推荐理由:原文完整给出多轮强化学习的端到端流程、成本拆解和踩坑记录,可直接迁移到自有多步任务的训练设计。
OpenAI 详解如何将在线存储系统 Habitat 扩展到服务超过 10 亿 ChatGPT 用户,通过可靠的多租户架构、全球缓存和 Azure Cosmos DB 实现了 12× 更快的读取速度。这是该系列的第二部分,聚焦 ChatGPT 存储基础设施的规模化实践。
Bayer Crop Science 基于 Amazon Bedrock AgentCore 构建了 Agentic Decision Engine(ADE),通过多智能体自然语言接口覆盖其 Connected Decision Engine(CDE),首期约 80% 的用户问题无需工程师介入即可解答。
Amazon Quick Sight layer maps 新增 Point 和 LineString 两种 GeoJSON 几何类型,可在地图上绘制具体地点(如门店)和路线(如航班、配送路径),此前仅支持 Polygon 形状图层。
AWS 提出用可复用的 CDK construct 配合 CloudFormation 自定义资源,在端点更新前后自动完成自动扩缩容的注销与注册,实现端点配置和扩缩容参数的单次部署。
Hugging Face 推出 torch-neuronx model support Space,可查询 Hub 上热门模型能否在 AWS Trainium 上不改动代码直接运行,并附带可复现的 run.py 脚本。
企业 AI 竞争优势正从"选哪个模型"转向"围绕模型构建什么",核心是 serving harness——包括架构、内存管理、调度和优化在内的工程系统。文章建议从工作负载而非模型出发设计架构,先测量再优化(如 KV cache 随并发和上下文长度增长导致 GPU 显存瓶颈),并构建可随模型和硬件演进而灵活调整的架构,而非围绕当前 benchmark 一次性重建平台。
Google 发布 Agent Compute Engine,为每个 AI agent 分配独立的 microVM,由 Google 的 Titanium 芯片提供安全隔离,该服务已支撑 Gemini,将在未来几个月开放预览。
通过在 Amazon SageMaker AI 实时端点上托管 Kokoro-82M(82M 参数)TTS 模型,AI 智能体每生成一句话就立即流式送入合成,让语音在完整回复生成前就开始播放,从而消除等待空隙。
Amazon Quick 是 AWS 的 HIPAA-eligible 服务,可在 web、desktop 和 mobile 客户端中处理 PHI(受保护健康信息)。
Amazon SageMaker AI 的 serverless model customization 新增 training session APIs,把抽象边界从算法下移到算力。
Amazon SageMaker AI 无服务器模型定制的训练会话(training sessions)正式可用,用户可自行编写和协调训练循环,包括自定义损失函数或奖励信号,而 GPU 分配、分布式执行、故障恢复和检查点存储由平台托管。
IskayPet 基于 Amazon Bedrock Managed Knowledge Bases 构建企业知识助手,覆盖西班牙、葡萄牙、法国三国、四种语言的员工问答,无需自管向量数据库、embedding 管道等 RAG 基础设施。
Amazon Polly Generative 引擎升级现已在生产环境 GA,语音更自然、更富表现力且延迟更低,新增 14 个语音覆盖 9 个 locale,Hindi 和 Finnish 首次在 Generative 引擎 GA。
Latent Space 播客访谈 Modal CEO Erik Bernhardsson,围绕其 7.5 亿美元 D 轮融资(估值 160 亿美元)、年化收入超 10 亿美元、约 30 亿次沙箱运行的背景,讨论算力采购与产品策略。
AWS 博客介绍 Rescale 如何用 AI-DLC 方法论和 Strands SDK 在 Amazon EKS 上构建测试分诊智能体,自动分类并路由夜间端到端测试失败。
AWS 博客介绍在 Amazon SageMaker AI 实时端点上部署 Kokoro-82M(82M 参数 TTS 模型)自定义容器,用两个实测值替代猜测的自动扩缩容目标:Q_max(单实例在 SLO 内可承载的最大并发)和 T_total(扩容端到端耗时),并据此推导扩缩容阈值与冷却时间。
NVIDIA 发布 AIOps 平台 Minerva,将基础设施与 AI 工作负载的遥测数据统一起来,用专用 AI 模型生成可执行洞察,帮助团队更早发现故障、维持 AI 工厂产能。
《Call of Duty: Modern Warfare 4》于 GFN Thursday 首发登陆 GeForce NOW,包含战役、多人对战与 DMZ 撤离模式,本周共 6 款游戏加入库。
Celonis 企业 AI 首席科学家 Devavrat Shah 提出,企业 AI 要从实验走向规模化,关键是为 AI agent 补上业务运营上下文,即他所称的"决策智能"。他建议企业从一个具体业务决策入手,找出最难的环节测试 AI 能否提速,再衡量收益决定是否推广。Shah 还指出,落地需要投资员工教育,让员工理解 AI 输出而非直接把决策交给 agent。
MIT Technology Review 指出,AI 基础设施预算往往只算 GPU 和算力,却漏掉了推理持续产生的后端数据存储成本。西部数据(WD)内部测量显示,一段 8 秒、3.97MB 的 720p AI 生成视频,会在后端留下超过 500MB 的日志、缓存、渲染和安全记录,是用户可见输出的 130 倍。
NVIDIA 宣布 StormScope EU 加入 Earth-2 开源模型家族,这是基于欧洲天气与气候数据训练的区域版短期预报模型,利用 EUMETSAT 卫星观测以 10 分钟间隔预测 16 个 Meteosat 通道的云况变化。
NVIDIA 宣布多家欧洲零售商正采用其加速的开放与前沿模型推进智能体商务、数字商品发现和零售研发。
NVIDIA 介绍多家企业基于其 DSX AI Factory 平台,将电网、设施与算力作为单一系统进行规划、仿真和运行。DSX Sim 借助 SimReady 资产联合仿真电网、变电站与 AI 工厂,DSX Flex 让 AI 工厂需求与电网状况及现场发电同步,DSX MaxLPS 与 DSX Exchange 提升每瓦算力并安全共享信号。
NVIDIA 扩展 Cosmos 平台,新增训练工具、仿真检查点和 Cosmos Data Factory 蓝图,其在六个开放模型排行榜上均进入前五。
推荐理由:原文给出了数据、训练、部署三层工具的具体入口和落地数字,读者可据此判断世界模型开发流程的变化。
NVIDIA 在 GTC Berlin 公布多家欧洲金融机构在其加速计算平台上构建生产级 AI 的进展。
AWS Solutions Architecture 团队开源了生产级多智能体系统 Deep Insight,本文作为三篇系列的第一篇,梳理其解决的五大生产挑战及对应技术栈。
这篇 AWS Machine Learning Blog 教程演示如何用 AWS PrivateLink 将本地数据源私有接入 Amazon Quick,让流量不经过公网。
AWS 发布教程,展示如何用 Strands Agents 构建自适应智能体框架(AAIF),将常规请求交给本地 SLM(通过 Ollama 运行 llama3.2:1b 和 llama3.2-vision)处理,复杂请求经 Amazon Bedrock 路由到云端大模型,以降低成本并保持低延迟。
AWS Machine Learning Blog 演示了在单台 trn2.48xlarge(16 颗 Trainium2 加速器、64 个逻辑 NeuronCore)上用 torchtitan 训练 Qwen3 的三种配置。
非营利组织 U.S. Hunger 通过 Amazon QuickSight 打通组织数据,让 CEO Rick Whitted 无需反复找技术团队取数即可直接探索数据。
Dharma AI 预告即将发表的 VocabX 论文,提出按每个 token 的服务成本而非出现频次来重建词表,在不改动基座模型和训练配方的前提下,将生产环境葡萄牙语作文评分器(基于 Qwen3-4B)的实测推理成本降低 77.0%,平均响应从 350 token 降到 101 token,bench score 从 0.703 升至 0.810。
Hugging Face Blog 发布教程,介绍如何用 Isaac Lab 与 Newton 训练开源双足机器人 Microduck 的行走策略,导出 ONNX 后部署到真机。
推荐理由:教程给出从仿真训练到真机部署的完整命令与接口约束,读者可照此复现双足机器人行走策略的迁移流程。
Hugging Face 发布 TorchNeuron 系列教程第一篇,讲解如何在 AWS Trainium 上用 torch.profiler 和 NeuronConfig 对推理做系统级性能分析。
Hugging Face 发布 TorchNeuron 系列教程第一篇,讲解如何在 AWS Trainium 上用 torch.profiler 和 NeuronConfig 对推理做系统级性能分析。
Nvidia 在 GTC Berlin 发布 DSX POD,一个围绕 Vera Rubin 系统构建的模块化数据中心参考设计,由 Dell、HPE、Lenovo、Schneider Electric 等伙伴在工厂完成计算、网络、布线、供电和液冷的安装与测试,现场只需接入就绪场地的电力、冷却和网络。
Nebius、Nscale、Verda 等 AI 云服务商及 Bull、Dell Technologies、HPE、Lenovo、Supermicro 等服务器厂商正采用 NVIDIA Vera CPU 构建本地基础设施,以支撑 AI 智能体的高速数据处理与代码执行。
NVIDIA 扩展 Confidential Computing,新增 Confidential Bare Metal 部署选项,让前沿模型构建者在第三方专属基础设施上运行敏感工作负载,同时保留对模型和数据的控制,并引入保护传输中数据、度量平台完整性、强制硬件级访问限制的新安全控制。