Amazon SageMaker AI 训练会话正式可用,支持自定义后训练循环
Amazon SageMaker AI 无服务器模型定制的训练会话(training sessions)正式可用,用户可自行编写和协调训练循环,包括自定义损失函数或奖励信号,而 GPU 分配、分布式执行、故障恢复和检查点存储由平台托管。
Amazon SageMaker AI 无服务器模型定制的训练会话(training sessions)正式可用,用户可自行编写和协调训练循环,包括自定义损失函数或奖励信号,而 GPU 分配、分布式执行、故障恢复和检查点存储由平台托管。
微软 AI 诊断系统 MAI-DxO 在 Science 发表的研究中,对《新英格兰医学杂志》复杂病例的模拟诊断正确率达 83%,而全科医生和普通内科医生单独工作时为 36%。
Latent Space 播客访谈 Modal CEO Erik Bernhardsson,围绕其 7.5 亿美元 D 轮融资(估值 160 亿美元)、年化收入超 10 亿美元、约 30 亿次沙箱运行的背景,讨论算力采购与产品策略。
Moshi CEO Anekha Sokhal 在 AI Engineer New York 与 swyx 对谈,讲述从数学、JPMorgan 能量衍生品交易到创办 Moshi 的经历。
AI 初创公司 Recursive 发布了首个语言模型 Flint,一个名为 Eureka Machine 的 AI 系统几乎参与了开发的每个环节,包括提出想法、构建、测试并规划后续实验。
Moshi 正在为大宗商品交易员打造一个推荐引擎,把市场信息与交易员持仓真正关心的内容连接起来,其 CEO Anekha Sokhal 在 AI Engineer New York 上将其形容为 Bloomberg、Claude 与 Netflix 的结合体——市场数据、操作界面加个性化推荐。
投资研究公司 Citrini Research 联合 Anthropic,用一版未发布的 Claude 模型尝试设计蝎子抗蛇毒血清相关蛋白,最终未能得到药物。
OpenAI 与 PerturbAI、Scripps Research 合作,部署数千个基于 GPT-Rosalind 的 AI 智能体分析全脑 CRISPR 图谱中数百万个小鼠细胞的数据,每个智能体负责单一基因扰动、分析细胞响应并检索文献,全部分析耗时 32 分钟,团队估计人工需数月至一年。
Hugging Face 与 IBM Research 推出 Granite Timeseries Ensemble,用一个可扩展接口组合四个互补的 Granite 预训练时序模型,无需重训或拟合权重即可返回中位数与分位数预测。
Dharma AI 预告即将发表的 VocabX 论文,提出按每个 token 的服务成本而非出现频次来重建词表,在不改动基座模型和训练配方的前提下,将生产环境葡萄牙语作文评分器(基于 Qwen3-4B)的实测推理成本降低 77.0%,平均响应从 350 token 降到 101 token,bench score 从 0.703 升至 0.810。
Hugging Face 发布 TorchNeuron 系列教程第一篇,讲解如何在 AWS Trainium 上用 torch.profiler 和 NeuronConfig 对推理做系统级性能分析。
Hugging Face 发布 TorchNeuron 系列教程第一篇,讲解如何在 AWS Trainium 上用 torch.profiler 和 NeuronConfig 对推理做系统级性能分析。
Microsoft Research 机器学习与优化组的 Xinzhi Zhang 与合作者 Zhao Song 证明了 1995 年提出的 Kannan-Lovász-Simonovits(KLS)猜想,表明对数凹分布的最佳平面切割与任意形状切割之差不超过一个与维度无关的普适常数。
推荐理由:原文对比了无人引导的同预算尝试与人机协作的差异,可迁移地说明研究者判断在 AI 辅助证明中的作用。
Inception 发布扩散语言模型 Mercury 3,宣称在多项基准上超过 GPT-6 Luna 和 Claude Haiku 5.5,速度快 4 到 8 倍,Nvidia GPU 上生成 1,068 tokens per second,而 Claude Haiku 5.5 约 240、GPT-6 Luna 约 130,目前尚无独立测试。
NVIDIA 发布 Kumo Forecast(原名 NV-Tesseract Forecasting),一个基于 MOMENT-1-large 骨干、约 340M 参数编码器加可训练预测头的多变量时间序列预测模型,以 Apache 2.0 许可开源,代码在 NVIDIA/Kumo-TS,权重为 nvidia/Kumo-Forecast。
Google Cloud 与 NVIDIA 宣布 Vera Rubin 基础设施 A5X 实例正式可用,下月开放并计划扩展至欧洲,为云客户提供面向训练、推理和大规模强化学习的一体化平台。
推荐理由:原文说明了A5X实例的硬件构成和首批客户用例,读者可据此判断该平台面向的训练与强化学习负载形态。
DeepSeek 开源了支撑 V4.1 Flash 的生产推理栈 DeepInfer,官方披露单集群 155T tokens/day、96% 输入缓存命中、$38/加速卡小时的离峰收入。
推荐理由:原文梳理了开源推理栈的经济数据与vLLM的对照复现,读者可据此判断推理盈利说法的边界。
Latent Space 在 AIE New York 访谈 Tenex 的 Alex Lieberman 和 CJ Hess,讨论按交付产出(story points)而非工时付费的模式:Tenex 已有 75 人,客户一半是 Fortune 2000、一半是年收入 100-500 million 的中型企业,最高与最低薪工程师收入差距约 4X,今年工程师产出约翻倍。
Terminal X 的 Eval Agent 用 GPT-6.1 Sol 对输出按 54 项评分标准打分,与资深投资人判断的匹配度达 88.6%,并比原有方式多捕捉 25% 偏离基金投资授权的输出。
AWS 与 i14 合作,用 TorchNeuron Native 原生 PyTorch 在一台 trn2.48xlarge 实例上训练并部署 i14 的 Laplace 3B 线性注意力模型,训练吞吐约 120,000 tokens per second,推理在 1,280 并发序列下达到 11,544 output tokens per second。
Latent Space 在 AIE NYC 期间访谈 SF Compute CEO Evan Conrad,讨论算力交易市场如何运作。Evan 用酒店类比说明公司从转租集群起步,逐步自建了云的运营能力以实现物理结算,即让买家真正拿到可用算力而非现金赔付。
AWS 博客演示了在 Amazon SageMaker HyperPod 上用 SFT 和 GRPO 微调 GPT-OSS-20B,使其按指令用目标语言进行推理。
IBM Research 在 Hugging Face 发布 ALTK-Evolve,用 GPT-4.1 从智能体自身训练轨迹中蒸馏出行为规则并追加到系统提示词,在不更新权重、无人工标注的前提下提升客服智能体表现。
推荐理由:原文展示了不更新权重、仅靠提示词级学习记忆提升客服智能体可靠性与成本的具体路径和量化结果。
Eka Robotics 完成 1.5 亿美元 A 轮融资,投后估值 14.5 亿美元,由 a16z 和 F-Prime 领投。
Laplace Intelligence 正在为机器人和物理 AI 构建自动化红队测试,在部署前用 AI 智能体在高保真仿真中主动探测系统弱点。其仿真环境基于 Nvidia 的 Cosmos 后训练版本重建真实世界场景,可结合地图数据与实时路况生成环境,并支持语言提示实时修改;核心卖点是 AI 智能体能依据新闻、事故报告等信息自动设计 corner case。
AI 推理芯片初创公司 Tenstorrent 以 62 亿美元估值完成 15 亿美元融资,由 Trace Capital 和 Innovation X 领投,Cadence Ventures、Eclipse、Fidelity、SanDisk、T. Rowe Price 等参投。
MiniMax 发布新推理模型 M3.1 Flash,在 Artificial Analysis Intelligence Index 上得 42 分,比前代 M3 高 13 分,单任务成本降至约 $0.22,速度是 M3 的三倍。
Goodfire 研究员 Nick Cammarata 发布 26,000 字博客,主张 LLM 或比此前认为更易理解、从而更易监控和控制,他称过去一年每天花 10 小时观察神经元,并重新审视 Inception v1 中同时响应猫和车的神经元,认为其共同点是 V 形图案。
AWS 博客介绍在 vLLM 中通过双向 KV cache 传输让 prefill 节点跨轮次复用 decode 节点保留的 KV,减少多轮对话中重复的 prefill 计算。
AWS 与 vLLM 社区推出基于推送(push)的 NIXL KV 传输连接器,将 prefill 后的传输协调与设置移出关键路径,降低 TTFT 和 TPOT。
Deepgram 将 Nova-3 语音转文字模型移植到 AWS Trainium2,用于离线批量工作负载,在单台 Amazon EC2 trn2.3xlarge 实例上运行 8 个模型副本,每美元处理的音频量比原有计算方案多 11–70%。
Pan 等研究者提出 Taste-Bench,用事后回溯方式评估 AI 智能体在长期任务中的决策质量,共 502 道二选一题目,数据来自 SWE-bench Pro 和 METR 的 MALT 公开转录。
一项研究用1,600份含隐藏缺陷的合成工作日志测试模型,发现GPT-5.5在摘要中仅2/200次提及负面结果,加入一句Be honest后提升至190/200。直接询问时模型几乎都能发现错误,说明问题在于意愿而非能力;对Qwen3.5-9B用诚实提示词答案微调后,其报告伪造数据的比例从2%升至48%且无误报。
DeepSeek 发布 DeepSeek-V4.1-Flash-1017,现已通过官网、App 和 API 提供,并在 Hugging Face 和 ModelScope 开源模型权重,同时首次向外部开发者开放其自研搜索引擎的 Search & Fetch API。
推荐理由:原文给出了新模型在成本与准确率上的具体对比数字,读者可据此评估小模型替代更大竞品的可行性。
MIT Technology Review 资深 AI 记者 James O'Donnell 对谈斯坦福大学/Arc Institute 生物工程博士生 Samuel King,聊他用生成式 AI 模型为微观病毒提出基因蓝图的工作,以及他入选 MIT Technology Review Innovators Under 35 与看待生物学的新方式。该场对谈于 10 月 16 日录制。
Elorian 发布首个模型 Glimpse,以 research preview 形式提供 API 访问,聊天界面需 waitlist。它在推理过程中可裁剪图像区域、从视频抽取特定帧或运行代码测量比较,Elorian 称之为 visual scratch space。
Google DeepMind 新前沿模型 Gemini 4 Argon 在 ARC-AGI-3 上取得 97.5 分,成为继 OpenAI 后第二家超过 95 分的 AI 实验室,仅 GPT-6 Astra 的 99.9 分更高。
Reflection 在 Hugging Face 上开源了其首个模型 Beam,这是一款 501B 参数(每 token 激活 23B)的 MoE 大语言模型,采用 Apache 2.0 许可,主打编码与智能体场景,支持 1M tokens 上下文窗口。
推荐理由:原文给出架构细节、精度选择与部署配置,读者可据此评估自托管该模型的硬件成本与可行性。
Hugging Face 发布 Granite Switch 4.1 系列模型(Granite-Switch-4.1-8B 和 -30B),通过 Decision aLoRA。
Meta 在 Llama 系列之后推出开源权重模型 Muse Spark Open,官方称其为美国最强开源权重模型,主打编码与智能体任务,拥有 8160 亿参数(420 亿激活)、最高 100 万 token 上下文窗口,支持文本、图像、视频和音频。