把模型跑起来的工程实践：推理优化、显存与成本、Serving 架构与基础设施选型。
AWS 宣布 Claude Sonnet 5.5 在 Amazon Bedrock 和 Claude Platform on AWS 上可用，定位为面向聚焦编码与知识工作的更高效 Sonnet 模型，多数任务单任务成本更低、速度更快。
推荐理由：官方给出 Sonnet 5.5 在 Amazon Bedrock 上的能力定位与调用示例，可据此判断它适合承接哪类持续运行的编码任务。
微软研究院对移动机器人操作负载的系统性测量显示，把物理 AI 推理从机载 GPU 卸载到边缘或云端 GPU 可提升任务表现并延长续航。
推荐理由：微软对机器人推理负载的系统性测量显示，把推理从机载 GPU 卸载到边缘或云端可提升任务成功率与续航，并给出可复用的 Kubernetes 工具链。
Google 公布 Private AI Compute 的新架构，将持久化服务端记忆引入该平台，使 AI 助手能在跨设备场景下保留上下文。数据存放在加密存储中，解密密钥仅保留在用户个人设备上，模型需要访问时通过端到端加密通道连接云端安全隔离区，在隔离内存中临时解密、处理并重新加密。
推荐理由：Google 公开了 Private AI Compute 的服务端持久记忆架构，读者可了解云端 AI 如何在保留设备端隐私标准的前提下跨设备记忆。
NVIDIA 在 ROSCon 发布 Isaac ROS 5.0，支持 ROS Lyrical 与 Ubuntu 24.04，并新增面向 AI 智能体的 Isaac 技能与 agent-ready 文档。
推荐理由：Isaac ROS 5.0 把智能体工作流引入机器人开发，并给出多家厂商的落地案例，可据此判断物理 AI 开发方式的变化。
Hugging Face 在 transformers 中加入 GGUF 支持，用户可通过 from_pretrained 传入 gguf_file 直接加载 Hub 上的量化检查点并在本地生成。
推荐理由：Hugging Face 官方说明 transformers 如何直接加载 GGUF 量化权重，并给出与 llama.cpp 的对比数据与当前限制。
Hugging Face 发布 tokenizers v1 候选版本，在 Apple M4 Max 单线程下编码速度比 v0.23 快 3 至 30 倍，八线程扩展效率为线性的 76%，且输出 token ID 与 v0.23 完全一致。
推荐理由：原文给出 v1 与 v0.23 的逐项基准对比和实现改动，可据此判断分词器在训练与推理管线中的实际提速空间。
GitHub 工程师 Stephen Toub 复盘用 GitHub Copilot 把 Copilot agent runtime 从 TypeScript 重写为超过 80 万行生产级 Rust 的过程，代码主要由 AI 智能体编写，横跨 128 个 PR 并增量上线，性能提升数个数量级。
推荐理由：GitHub 工程师复盘用 Copilot 把运行时从 TypeScript 迁到 Rust 的全过程，含多智能体协作与提示缓存数据。
Mistral 帮助一家欧洲能源运营商把 4 万行 Fortran 77 物理油藏模拟器迁移到 C++，该代码库没有测试套件和集中文档。团队先搭建数值一致性校验框架，用自定义解析器生成调用树并让上百个智能体补文档，再以规划、编码、测试、审查的智能体工作流逐模块迁移，由人工审查 PR 把关。
推荐理由：Mistral 公开了用智能体迁移 4 万行 Fortran 的完整流程，含一致性校验与人工审查节点的取舍。
Mistral 宣布三项推进 AI 主权的举措：Mistral Regional Endpoints 正式可用，客户可选择推理在欧洲或美国运行；Mistral Priority Tier 进入公开预览，为关键业务负载提供自定义速率限制和带 SLA 的可用性承诺。
推荐理由：Mistral 把区域推理端点、SLA 优先级层和第三方开源模型接入放在同一套基础设施上，可观察主权 AI 的落地方式。