跳到正文
今天11月14日周六8 条
  1. AWS Machine Learning Blog39

    GS Caltex 用 Amazon SageMaker Canvas 与 SageMaker Pipelines 打造生产级 MLOps(第 1 部分)

    GS Caltex 通过 Amazon SageMaker Canvas 与 SageMaker Pipelines 打通模型到生产的流程,ML 工程师部署模型从约一周缩短到几小时。公司每 30 分钟运行一次批量推理,减少常驻 endpoint 需求,显著降低推理成本。文章讲解如何复用 Canvas 中验证过的预处理流程与模型,参考实现已在 GitHub 开源。

11月13日周五
  1. Hugging Face Blog62

    llama.cpp 与 ggml 发布 v1.0.0 库版本

    llama.cpp 与 ggml 发布 v1.0.0 库版本,libllama 与 libggml 分别对应 LLM 推理与张量库的公共头文件。此后 ggml-org 项目在公共 C API 出现不兼容变更时将提升主版本号,向后兼容的功能与后端更新升 MINOR,无 API 变更的修复升 PATCH。

    推荐理由:语义化版本规则和分发渠道清单,说明了本地推理库如何向下游开发者承诺接口稳定性。

11月12日周四
  1. AWS Machine Learning Blog61

    AWS 教程:在 Amazon SageMaker HyperPod 上检测并恢复静默数据损坏

    AWS 发布教程,介绍如何在 Amazon SageMaker HyperPod 的 PyTorch DDP 训练循环中加入三道检查来检测静默数据损坏(SDC):all-reduce 前后的 NaN/Inf 梯度检查、跨节点重放的 ring replay 审计、以及 optimizer 更新后的权重指纹比对。

    推荐理由:原文给出三道检查的实现代码与开销实测数据,读者可据此评估在自己训练任务中落地的成本与收益。

  2. AWS Machine Learning Blog62

    Amazon Bedrock AgentCore 推出 Web Search API

    AWS 宣布在 Amazon Bedrock AgentCore 上推出 Web Search API,让开发者用一次 API 调用直接搜索网页,返回带文本摘录及可选标题、URL、发布时间的排序结果,无需先创建资源。

    推荐理由:原文对比了 API 与 Gateway 的适用场景,读者可据此判断自己的项目该走哪条接入路径。

  3. Simon Willison56

    AWS 发布官方服务本地模拟器 aws-emulator

    AWS 发布官方模拟器 aws-emulator,可在本地克隆其多种服务上运行测试,无需申请付费 API key。该项目用 Rust 编写,由大量智能体协作开发,前三周就有 29,684 次 commit;目前在 macOS 或 Windows 上运行需要 Docker,作者希望未来能提供单一二进制文件,方便在其他语言和平台的标准测试套件中使用。

11月11日周三