在 AWS 上用 AtScale 和 Amazon Bedrock AgentCore 构建面向智能体 AI 的语义层
AWS Machine Learning Blog 系列第三篇演示了如何用 AtScale 作为语义层,在 AWS 上为智能体 AI 构建 Customer 360 场景。
AWS Machine Learning Blog 系列第三篇演示了如何用 AtScale 作为语义层,在 AWS 上为智能体 AI 构建 Customer 360 场景。
AWS Machine Learning Blog 系列第三篇演示如何用 Strategy Mosaic 作为语义层,在 Amazon Redshift 和 Amazon Aurora 两个数据源上建模 Customer 360。
AWS Machine Learning Blog 演示了如何用 Denodo Platform 作为语义层,在 Amazon Bedrock AgentCore 上托管 Agentic AI 智能体,联邦 Amazon Aurora、Amazon Redshift 与本地 PostgreSQL 数据源,形成单一 customer 360 视图。
Hugging Face 发布 AnyLanguageModel 1.0,同时推出 swift-huggingface 1.0 和 swift-xet 1.0。
Hugging Face 的 PyTorch 团队发布 PyTorch 2.15 的 MPS 更新:FP8(torch.float8_e4m3fn)登陆 Mac,可用 F.scaled_mm 直接做缩放矩阵乘法,占用内存为 BF16 的一半。
推荐理由:原文用具体吞吐和内存数字说明了 MPS 后端在 Mac 上的能力变化,读者可据此判断本地推理与视频生成工作流的可行性提升。
Amazon Bedrock 现已正式为所有 Anthropic Claude 模型提供结构化输出,在 bedrock-runtime 和 bedrock-mantle 端点上均可返回符合 JSON schema 的响应,无需自定义解析、重试或后处理。
推荐理由:原文说明了约束解码如何把输出从概率性变为确定性,并给出 schema 缓存与最佳实践,可直接迁移到自己的集成中。
新的 Amazon SageMaker AI 客户现在只需几步即可进入完全配置好的 SageMaker Studio 环境,可用 Google、GitHub、Apple、Amazon 账号或邮箱直接注册,无需填写高级 AWS 账户信息、验证手机号或输入信用卡(大多数客户)。
Amazon SageMaker JumpStart 在 2026 年 1 月至 9 月新增超过 100 个模型,覆盖 30 家提供商,其中 Alibaba(Qwen)贡献 29 个、NVIDIA 17 个、Mistral 7 个、Google 6 个 Gemma 4 变体。
Hugging Face 官方博客介绍 TorchNeuron,它为 PyTorch 在 AWS Trainium 上提供新的原生后端,Transformers、Diffusers 和 Kernels 已原生支持,自 Oct. 20, 2026 起以 public beta 形式提供,可用 pip install torch-neuronx 安装。
TwelveLabs 的 Pegasus 1.5 视频语言模型现已在 Amazon Bedrock 的 US West (Oregon) 区域可用,模型ID为 twelvelabs.pegasus-1-5-v1:0。
AWS 博客介绍在 vLLM 中通过双向 KV cache 传输让 prefill 节点跨轮次复用 decode 节点保留的 KV,减少多轮对话中重复的 prefill 计算。
AWS 与 vLLM 社区推出基于推送(push)的 NIXL KV 传输连接器,将 prefill 后的传输协调与设置移出关键路径,降低 TTFT 和 TPOT。
Deepgram 将 Nova-3 语音转文字模型移植到 AWS Trainium2,用于离线批量工作负载,在单台 Amazon EC2 trn2.3xlarge 实例上运行 8 个模型副本,每美元处理的音频量比原有计算方案多 11–70%。
NVIDIA 与欧洲广播联盟(EBU)扩展主权框架,引入主权云、开源模型与系统集成商,帮助欧洲公共广播机构在掌控数据、基础设施与安全的前提下部署 AI 智能体。
NVIDIA RTX Spark 笔记本现已开售,搭载 Blackwell RTX GPU 与 NVIDIA Grace CPU,最高 128GB 统一内存、最高 1 petaflop AI 算力,起价 2,399 美元,由 ASUS、Dell、HP、Lenovo、Microsoft、MSI 等厂商推出。
AWS SMGS Operations 团队分享了基于 Amazon Bedrock AgentCore Evaluations 的九阶段评估框架,覆盖从首次提交到生产响应的完整智能体生命周期,用于保障面向 AWS 全球现场销售的多智能体系统质量。
推荐理由:原文用真实生产故障和九阶段框架展示了如何把智能体质量从一次性验收变成贯穿生命周期的持续机制,可迁移性强。
Reflection AI 推出 Beam,一个面向 agentic coding 和长程任务的开源权重模型,采用稀疏 MoE 架构,501B 总参数、23B 激活参数,有效上下文长度 1 million tokens,权重以 Apache 2.0 许可通过 Hugging Face 发布,提供 BF16、FP8、NVFP4 三种 checkpoint。
Meta 的编码优化开源权重模型 Muse Spark Open 现已在 Amazon SageMaker JumpStart 提供,可部署到自己 AWS 账号的 SageMaker AI 端点。
AWS 发布 Trust in Depth 框架,把智能体信任拆成 Scope(运行前界定范围)、Know(部署时确认身份)、Bound(运行中强制边界)、Observe(运行后复盘)四层,用可验证的分层控制替代人工逐条审批。
Black Forest Labs 的 FLUX.3 Image Klein 已可在 Diffusers 中使用,一个模型同时支持文生图、多参考图生图和 bounding box 布局控制。
推荐理由:原文拆解了架构与显存速度数据,读者可据此判断能否在现有硬件上跑起来。
NVIDIA 在都柏林 AI in Science Summit 上加入欧盟委员会启动的 AI in Science Enablers Initiative,承诺提供加速工具、算力、培训与初创支持。
NVIDIA 过去一年投资北欧生态,包括 Lovable 和 Legora,并与瑞典财团共建 Sferical One 超级计算机(两套 NVIDIA DGX SuperPOD、16 机架 DGX GB300、1,152 GPU)。
AWS 介绍如何用 Amazon Bedrock AgentCore 搭建一套智能文档处理(IDP)系统,由 8 个专用 Agent 协作完成文档分类、抽取、校验与自我学习,通常 20 分钟内即可部署。
Tamnoon 基于 Amazon Bedrock 构建了 agentic 云安全修复编排器 Tami,自主调查来自 CNAPP 和云原生来源的发现并生成修复方案,90 天内将关键云暴露减少超过 90% 且零生产事故。Tami 由调查、安全评分、修复、代码生成四个专用 agent 组成,通过单一 API 调用不同基础模型,安全评分将修复分为 SAFE、RISKY 或 AWAITING DATA。
一套基于 Amazon Bedrock AgentCore 的 AI agent 方案可在 90 秒内自动生成 PowerPoint 演示文稿。
Amazon SageMaker JumpStart 提供预训练模型目录,可用 SageMaker Python SDK 部署模型、运行轻量可重复的性能测试并删除端点,实测单请求延迟 9.07 秒、约 153 词输出、16.9 words/second。
欧洲多个城市正与 NVIDIA 生态伙伴合作,用 NVIDIA 加速计算构建物理 AI 智能体和数字孪生来优化城市运营。
Anchor Browser 与 Amazon Bedrock AgentCore payments 集成现已在 AWS Marketplace 上线,让 AI 智能体在遇到 HTTP 402 Payment Required 时能自主完成 x402 协议付费,覆盖付费网页与付费 API。
Amazon Bedrock 通过 managed entitlements 简化多账户访问第三方 AI 模型,可从中心账户一次订阅并向组织分发访问权限。
GitHub 官方博客介绍了其新训练的密钥分类器,采用两阶段管线:先用高召回 regex 生成候选,再由微调 ModernBERT 结合文件路径、变量名和上下文判断是否为真实密钥。
Amazon SageMaker AI 团队介绍了针对 fused MoE 模型的 kernel 优化方案,其中 Swap-AB 技巧在 H200 上为大规模 MoE 模型带来 2–4% 的端到端输出吞吐提升,已上游至 vLLM 0.24.0 及之后版本。
AWS 博客介绍 Grok 4.7 已在 Amazon Bedrock 上线,并构建一个工具调用智能体,在三个需要搜索而非查表的任务上以四个 reasoning effort 档位各跑 6 次共 72 次,答对 67 次:xhigh 全对 18/18,low 答对 15/18 但输出 token 约为 xhigh 的八分之一。
推荐理由:原文给出可复现的评测设计与四档推理档位的 token 与正确率对照,读者可据此在自己任务上量测成本质量权衡。
ShipStation Global 工程团队在 Amazon Bedrock AgentCore 上构建了 Slack AI IT 帮助台 Deckhand,上线三个月处理 1,935 条消息、回复率达 97.5%、员工好评率 96%。
Orca Security 与 AWS 合作基于 Amazon Bedrock 构建 Discovery AI,将自然语言问题转换为其 Sonar 查询系统的有效查询,查询成本降低 90%、输入 token 减少 93%、延迟降低 75%。
Amazon Bedrock 在泰国、马来西亚、新加坡、印尼和台湾五个 AWS Region 通过全球跨区域推理提供 OpenAI GPT-6 Sol 和 GPT-6 Luna,GPT-6 Astra 则从 Asia Pacific (Singapore) 提供。
AWS 推出多节点 Ray LLM Deep Learning Containers,可在 Amazon EKS 上将单个大语言模型部署到两个 GPU 节点,通过一个 OpenAI 兼容端点实现 prefill/decode 分离推理。
AWS 展示了如何在 Amazon SageMaker AI 上用 llama.cpp 部署决策模型:标准路径通过 AWS DLC for llama.cpp 提供 OpenAI 兼容的 chat completions,SemIf 扩展则直接返回各选项概率而不生成答案 token。
NVIDIA 在 OCP 全球峰会上向 OCP 贡献 Vera Rubin 机架与计算托盘设计,并通过开放的 MGX 架构为系统厂商提供共同基础。MGX 1.2 规范扩展了机架级盲插液冷、可互操作互连、5,000A 液冷母线以及最高 250kW 的机架部署支持,同时新增 Vera CPU 机架设计规范以支持智能体场景。
Ai2 团队用 GPU 时间预算、层级公平份额分配和时间片合约取代了原有的优先级调度器,把 GPU 时间分配从逐案协商变成透明的预算流程。新系统要求每个请求由预算支撑,配合 7 天回看窗口的公平份额排序和 8 小时最小运行时保护,30 天测试期内团队拿到了 98% 应得 GPU 小时,集群占用率保持 98%,调试任务 p90 等待时间从 2 小时降到 30 秒,需人工介入的维修下降 74%。
推荐理由:原文完整拆解了从优先级调度到预算制调度的迁移过程与量化收益,可迁移性强。
Postman 与 AWS 撰文介绍 Postman Agent Mode 如何在 Amazon Bedrock 上为 4000 万开发者提供服务,核心经验是把上下文而非能力当作主要瓶颈。