DeepSeek 开源 DeepInfer 推理栈,vLLM 复现其吞吐并引发盈利讨论
DeepSeek 开源了支撑 V4.1 Flash 的生产推理栈 DeepInfer,官方披露单集群 155T tokens/day、96% 输入缓存命中、$38/加速卡小时的离峰收入。
推荐理由:原文梳理了开源推理栈的经济数据与vLLM的对照复现,读者可据此判断推理盈利说法的边界。
DeepSeek 开源了支撑 V4.1 Flash 的生产推理栈 DeepInfer,官方披露单集群 155T tokens/day、96% 输入缓存命中、$38/加速卡小时的离峰收入。
推荐理由:原文梳理了开源推理栈的经济数据与vLLM的对照复现,读者可据此判断推理盈利说法的边界。
Terminal X 的 Eval Agent 用 GPT-6.1 Sol 对输出按 54 项评分标准打分,与资深投资人判断的匹配度达 88.6%,并比原有方式多捕捉 25% 偏离基金投资授权的输出。
Google 将 Personal Intelligence 带入车内的 Gemini AI,Android Auto 和搭载 Google built-in 的汽车可调用 Gmail。
Google 将 Gemini 的 Personal Intelligence 功能推广到 Android Auto 和 Google Built-in 车载系统,该功能仍为可选项。
DeepSeek 以 Apache License 2.0 开源了内部推理框架 DeepInfer,即支撑其 V4.1-Flash 模型快速规模化生成回答的推理引擎。
OpenAI 宣布 ChatGPT 新增锁定对话功能,可用四位 PIN 或 Face ID/Touch ID 保护敏感聊天,锁定后对话移入独立的 Locked Chats 区域,与常规历史、置顶和搜索结果分开。
Google 宣布开源 TorchTPU,让 PyTorch 应用可迁移到 Google 的 TPU 芯片和 Google Cloud,只需简单配置改动、无需重写代码,与 Amazon 前一日发布的 TorchNeuron 形成对 Nvidia 芯片主导地位的夹击。
Mistral AI 发布 Voxtral 3,一套面向实时语音智能体的语言模型家族,包含语音转文字模型 Voxtral Small Transcribe 3、文字转语音模型 Voxtral Mini TTS 3,以及基于 LiveKit 的语音 Agent SDK,将聆听、思考、工具调用与说话整合进单一 streaming pipeline。
一家独立的 Schlotzsky's 和 Cinnabon 加盟商用 ChatGPT Work 将菜单重新定价的时间缩短 95%,并搭建出一套可释放 100 万美元现金流的工作流。该加盟商对账现金的时间也减少了 94%。
Hugging Face 发布 TorchTPU,一个把 TPU 作为 PyTorch 原生后端的项目,Transformers、Diffusers 和 Kernels 可直接在 TPU 上运行,只需 device_map="tpu" 即可加载模型,不再依赖 torch_xla 或 Optimum TPU。
推荐理由:原文给出了从 torch_xla 迁移到原生后端的具体改动和实测加速数字,读者可据此评估 TPU 工作流的实际收益。
Adobe 宣布 Lightroom 移动版(支持 iOS、iPadOS、Android)可用生成式 AI 一键修复照片中闭眼的人物:检测到闭眼时会自动弹出 Open Eyes Quick Action 图标。
Yelp 为应用用户推出新功能 Check for Me,用户在餐厅页面输入人数和电话号码后,AI agent 会代其致电餐厅查询等位时间并以短信反馈结果。Yelp 同时升级其 AI 助手,通过 OpenTable 集成支持应用内订位,助手会记住用户此前聊天中提到的偏好,并可查看过去 30 天的聊天记录。
Hugging Face 发布 AnyLanguageModel 1.0,同时推出 swift-huggingface 1.0 和 swift-xet 1.0。
Hugging Face 的 PyTorch 团队发布 PyTorch 2.15 的 MPS 更新:FP8(torch.float8_e4m3fn)登陆 Mac,可用 F.scaled_mm 直接做缩放矩阵乘法,占用内存为 BF16 的一半。
推荐理由:原文用具体吞吐和内存数字说明了 MPS 后端在 Mac 上的能力变化,读者可据此判断本地推理与视频生成工作流的可行性提升。
Amazon Bedrock 现已正式为所有 Anthropic Claude 模型提供结构化输出,在 bedrock-runtime 和 bedrock-mantle 端点上均可返回符合 JSON schema 的响应,无需自定义解析、重试或后处理。
推荐理由:原文说明了约束解码如何把输出从概率性变为确定性,并给出 schema 缓存与最佳实践,可直接迁移到自己的集成中。
新的 Amazon SageMaker AI 客户现在只需几步即可进入完全配置好的 SageMaker Studio 环境,可用 Google、GitHub、Apple、Amazon 账号或邮箱直接注册,无需填写高级 AWS 账户信息、验证手机号或输入信用卡(大多数客户)。
微软推出新安全功能,将AI智能体视为类似内部威胁的风险源,其中最引人注目的是用于监控企业所用智能体的Guardian Agents,它是6月发布的Project Perception的一部分。
Amazon SageMaker JumpStart 在 2026 年 1 月至 9 月新增超过 100 个模型,覆盖 30 家提供商,其中 Alibaba(Qwen)贡献 29 个、NVIDIA 17 个、Mistral 7 个、Google 6 个 Gemma 4 变体。
AWS 发布 TorchNeuron 工具,让开发者只需修改一行配置即可将 PyTorch 编写的 AI 应用运行在自研 Trainium 芯片上,无需重写代码。AWS 称约 85% 的 AI 应用使用 PyTorch 构建,此举直接挑战 Nvidia CUDA 生态的默认地位。AWS 还表示将向 PyTorch 主项目贡献代码,移除与特定芯片绑定的部分,使框架更加硬件无关。
Replika 创始人 Eugenia Kuyda 正式向所有用户推出其新公司 Wabi 的多人协作个人 AI 助手,形态类似即时通讯应用,支持为不同任务和长期目标维护多个智能体线程,每个线程内可构建和使用自定义应用。
Hugging Face 官方博客介绍 TorchNeuron,它为 PyTorch 在 AWS Trainium 上提供新的原生后端,Transformers、Diffusers 和 Kernels 已原生支持,自 Oct. 20, 2026 起以 public beta 形式提供,可用 pip install torch-neuronx 安装。
Kling AI 发布 4.0 版本,单次可生成最长 30 秒视频,支持最多十张关键帧输入,提示词理解扩展至 8,000 tokens,Omni Reference 系统单次可接受最多 15 个参考素材。
TwelveLabs 的 Pegasus 1.5 视频语言模型现已在 Amazon Bedrock 的 US West (Oregon) 区域可用,模型ID为 twelvelabs.pegasus-1-5-v1:0。
llm-echo 0.5 更新了模拟 token 用量统计,将工具调用、system prompt 和 reasoning token 计入其中。llm-echo 是一个调试插件,其"模型"不涉及任何 LLM,只回显输入的 prompt。
web-edit 0.1a2 为文本和图片数据新增了"复制到剪贴板"选项,方便把运行日志复制到 Gist。作者在手机上用笔记本跑 pelican prompts(如 DeepSeek 4.1 Flash 1017)时需要这一功能。
NVIDIA RTX Spark 笔记本现已开售,搭载 Blackwell RTX GPU 与 NVIDIA Grace CPU,最高 128GB 统一内存、最高 1 petaflop AI 算力,起价 2,399 美元,由 ASUS、Dell、HP、Lenovo、Microsoft、MSI 等厂商推出。
Benefit Street Partners 的 Anant Kumar 使用 Codex 进行代码审查和更快的后续跟进,以构建用于比较贷款估值和分析信贷协议的工具。Codex 帮助他更快地回答相关问题。
Stack Overflow for Agents 用 Codex 在几周内上线,其 ChatGPT 插件推动注册量增长至三倍,agent 创建量最高增长 10×。
ChatGPT 现可在 Chrome 浏览器中读取打开的标签页并对其执行操作,用户可用 @chrome 指定标签,Chat 模式可同时从多个标签拉取数据,Work 模式则通过 Computer Use 控制标签页发送消息、填写表单、下载文件或整理标签。
Reflection AI 推出 Beam,一个面向 agentic coding 和长程任务的开源权重模型,采用稀疏 MoE 架构,501B 总参数、23B 激活参数,有效上下文长度 1 million tokens,权重以 Apache 2.0 许可通过 Hugging Face 发布,提供 BF16、FP8、NVFP4 三种 checkpoint。
Veritas 推出第二版防伪芯片,可在金属表面工作并穿透玻璃扫描,支持珠宝、奖杯、硬表面产品和香水瓶等更广应用。该芯片每次点击生成安全响应并内置防篡改线,品牌可验证真伪,用户可通过 App 展示所有权证书。Veritas 本周宣布与 ATHLOS 合作,其 18 顶冠军王冠将嵌入该芯片,公司迄今已获 $1.75 million pre-seed 融资。
OpenAI 推出 Rosalind Academic Plan,向美国大学研究实验室免费提供最多 30 个 Business Standard 席位,最长可用十二个月,不含 API 访问。
Sullivan & Cromwell 与 OpenAI 合作开发了 Agreement Analyzer,一款用于识别协议草案中问题的 AI 工具。该工具将律所的法律专业知识融入协议审查流程,帮助在起草阶段发现协议文本中的潜在问题。
OpenAI 为 ChatGPT 的 Google Chrome 扩展推出升级,安装后在 Chat 或桌面应用中 @chrome 即可让 ChatGPT 查看当前打开的浏览器标签页。
OpenAI 推出 Rosalind Academic Plan,向符合条件的学术实验室提供 GPT-Rosalind 及相关工具的赞助访问,以推进生命科学研究。该计划面向学术研究机构开放申请。
Bluesky 的 Attie AI 工具新增功能,用户可通过输入提示词生成游戏、投票、仪表盘等小型社交应用,并以独立网站形式分享。Bluesky CEO Toni Schneider 在 TechCrunch Disrupt 采访中称 Attie 是面向社区的 social vibe coding。
Bluesky 在 TechCrunch Disrupt 2026 上宣布扩展其 AI 驱动的 Attie 应用,新增构建网站、测验、游戏、投票等互动体验的能力,此前 Attie 主要提供 AI 构建自定义社交信息流的功能。
Meta 的编码优化开源权重模型 Muse Spark Open 现已在 Amazon SageMaker JumpStart 提供,可部署到自己 AWS 账号的 SageMaker AI 端点。
NVIDIA RTX Spark 于 10 月 16 日发布,这是一台面向创作者、游戏玩家和 AI 智能体的 Windows PC,并在旧金山、柏林、台北、北京、伊斯坦布尔、首尔等地举办首发庆祝活动。
Google DeepMind 介绍如何用其智能体开发平台 Google Antigravity 加速抗菌肽(AMP)候选发现:研究者与 AI 智能体在单次交互会话中设定生物学目标,由智能体完成跨数据库编排、结构分析与文献综合,并借助 ProtNLM 模型从 UniProt 数百万条未注释序列中预测蛋白功能。