llama.cpp 与 ggml 发布 v1.0.0 库版本
llama.cpp 与 ggml 发布 v1.0.0 库版本,libllama 与 libggml 分别对应 LLM 推理与张量库的公共头文件。此后 ggml-org 项目在公共 C API 出现不兼容变更时将提升主版本号,向后兼容的功能与后端更新升 MINOR,无 API 变更的修复升 PATCH。
推荐理由:语义化版本规则和分发渠道清单,说明了本地推理库如何向下游开发者承诺接口稳定性。
llama.cpp 与 ggml 发布 v1.0.0 库版本,libllama 与 libggml 分别对应 LLM 推理与张量库的公共头文件。此后 ggml-org 项目在公共 C API 出现不兼容变更时将提升主版本号,向后兼容的功能与后端更新升 MINOR,无 API 变更的修复升 PATCH。
推荐理由:语义化版本规则和分发渠道清单,说明了本地推理库如何向下游开发者承诺接口稳定性。
Hugging Face 发布 TRELLIS.2 的 LoRA 微调脚本与 Docker 容器,可在本地或 Hugging Face Jobs 上运行,用自有 3D 资产微调该模型。
Hugging Face 博客介绍如何在 Sentence Transformers 中做 token pooling-aware 训练,让多向量嵌入模型在压缩后仍保留检索质量。
Hugging Face 现已支持将组织账户关联至 Google Cloud,通过 Google Cloud Marketplace 结算,Hugging Face 用量并入现有 Google Cloud 账单,无需新增供应商和企业信用卡。
Hugging Face 介绍决策模型(decision model)概念及其在生态中的落地:模型接收 state 与 questions,直接返回带概率的结构化决策而不生成文本,接口包含 choice、score、noul 三种原语,并给出 confidence 计算方式。
推荐理由:原文梳理了决策模型的接口设计与三种原语,并说明 Transformers 和 llama.cpp 如何通过同一 API 提供服务。
Hugging Face 与 Liva AI 合作,为 Open ASR Leaderboard 新增埃及和尼日利亚英语两个私有测试集,时长分别为 1.34 小时和 1.55 小时,均为带标点、区分大小写并保留不流畅片段的自发对话转写。
Hugging Face 发布可在本地设备运行的文本转语音模型 Phonon,无需服务器和网络,两周内下载量超过 200,000 次。模型提供约 65 MB 和 75 MB 两个尺寸,支持英语、法语、德语、西班牙语和葡萄牙语五种语言及 100 多个内置声音;Phonon 31m 仅支持英语并采用 Apache 2.0 许可,Phonon 40m 覆盖五种语言但限非商业使用。
推荐理由:原文交代了小模型兼顾音质与体积的技术路线、许可证差异和排行榜成绩,可帮助判断端侧语音方案的可用性。
Hugging Face 与 Collinear AI 开源 CWE-bench v2,公开 100 个任务,覆盖 91 种 CWE,用于测试前沿模型发现并修复安全漏洞且不破坏现有功能的能力,评分完全程序化、可复现。
推荐理由:公开了 100 个任务的评分口径与成本数据,读者可据此判断模型在真实漏洞修复上的水平与代价。
Hugging Face Blog 发布 IBM Research 的 Palette:微调一个 20B 开源权重模型,用合成数据学习 IBM Design Language 并通过校验 harness 生成幻灯片,在 PresentBench 三个领域中两个排名第一、三领域均分第二(59.7 分,落后 NotebookLM 的 60.8 分 1.1 分)。
推荐理由:原文拆解了用合成数据与校验器训练小模型复现设计语言的完整方法,可迁移到其他输出可被代码校验的任务。
Hugging Face Blog 发布 transformers-mic 提案,用 Model Integration Contract(MIC)为 Transformers 的模型测试打包标准,包含 fixture、usage path 和 baselines 三部分,发布在 huggingface-mic 仓库。
Hugging Face 宣布推出 Project ProtoStar,联合 Carnegie Mellon University、Purdue University、Georgia Institute of Technology、Arizona State University、The George Washington University 等高校。
Hugging Face 博客介绍 Mistral 发布的 Mistral Large 4(代号 Le Chonk):多模态、多语言 MoE 模型,约 1T 总参数、49B 激活参数、1M token 上下文窗口。
同一件事,精选收录的是《Mistral 发布开源权重模型 Mistral Large 4(Le Chonk)》
Hugging Face 官方博客宣布推出 AnySpeechRecognizer 和 AnyDecisionModel 两个 Swift 包,均支持从 Hugging Face Hub 下载开源模型并在设备端运行。
推荐理由:原文给出可选引擎、模型体积与实测词错率,读者可据此判断端侧语音方案的取舍。
NVIDIA 宣布 RTX Spark Windows 笔记本现已由 ASUS、Dell、HP、Lenovo、Microsoft、MSI 提供,起价 $2,599,128GB 配置已上架,采用 Blackwell RTX GPU 与 Grace CPU 单颗超芯,最高 128GB 统一内存、1 petaflop FP4 AI 性能。
推荐理由:原文集中列出 RTX Spark 笔记本的模型、Agent 工具和游戏更新,读者可据此判断本地 AI 工作流的可用范围。
NVIDIA 发布开源权重语音模型 Nemotron 3.5 Transcribe,将转写、说话人分离、翻译和音频问答整合到单一 checkpoint,支持 40 种语言转写、31 种语言与英语互译、13 种语言说话人归属,可处理最长一小时录音并标注最多 8 位说话人,现已在 Hugging Face 和 ModelScope 开放。
推荐理由:原文给出榜单成绩与微调配方,读者可据此判断该模型在多语种转写与说话人分离上的可用性。
Hugging Face 推出 torch-neuronx model support Space,可查询 Hub 上热门模型能否在 AWS Trainium 上不改动代码直接运行,并附带可复现的 run.py 脚本。
微软与 Hugging Face 联合发布并开源 ThinkingBox-Training(microsoft/thinkingbox-training),把 ThinkingBox-Bench 中对数据库终态的可执行检查复用为 RL 训练奖励。
推荐理由:原文给出了把数据库终态检查复用为 RL 奖励的完整训练流程与开源实现,读者可据此迁移方法到自己的智能体任务集。
Hugging Face 发布 OlmoEarth v1.3 卫星嵌入模型,读取 Sentinel-1 雷达与 Sentinel-2、Landsat 多光谱时间序列。
推荐理由:原文给出了评测对比和训练成本变化,读者可据此判断其相对前代与同类模型的实际改进幅度。
Dharma AI 预告即将发表的 VocabX 论文,提出按每个 token 的服务成本而非出现频次来重建词表,在不改动基座模型和训练配方的前提下,将生产环境葡萄牙语作文评分器(基于 Qwen3-4B)的实测推理成本降低 77.0%,平均响应从 350 token 降到 101 token,bench score 从 0.703 升至 0.810。
Hugging Face Blog 发布教程,介绍如何用 Isaac Lab 与 Newton 训练开源双足机器人 Microduck 的行走策略,导出 ONNX 后部署到真机。
推荐理由:教程给出从仿真训练到真机部署的完整命令与接口约束,读者可照此复现双足机器人行走策略的迁移流程。
Hugging Face 推出 SimReady Central Library,收录超过 2,000 个可直接用于仿真的 OpenUSD 资产,免费且无门槛开放,覆盖机械臂、夹爪、仓储设备、机架与冷却基础设施等。
NVIDIA 发布 Cosmos3-H-Dreams,基于 Cosmos 3 与 FlashDreams 流式推理库,在单张 NVIDIA RTX PRO 6000 GPU 上实现实时交互式生成手术模拟,训练数据来自 CMR Surgical Versius 平台上的临床胆囊切除术录像与机器人运动学记录。
Ai2 发布 FairStress 基准,用于测量 LLM 在最终选择之外的决策稳健性公平差异,包含 300 个双候选人场景、29 个领域,经人口统计身份与对抗前缀组合扩展至超过 1300 万测试用例,并提供 50K 项的 FairStress-Core 子集。
推荐理由:原文用对抗前缀揭示了输出层公平掩盖的决策稳健性差异,并给出相对有效的反事实 CoT 缓解方法。
Hugging Face 发布 TorchTPU,一个把 TPU 作为 PyTorch 原生后端的项目,Transformers、Diffusers 和 Kernels 可直接在 TPU 上运行,只需 device_map="tpu" 即可加载模型,不再依赖 torch_xla 或 Optimum TPU。
推荐理由:原文给出了从 torch_xla 迁移到原生后端的具体改动和实测加速数字,读者可据此评估 TPU 工作流的实际收益。
IBM Research 在 Hugging Face 发布 ALTK-Evolve,用 GPT-4.1 从智能体自身训练轨迹中蒸馏出行为规则并追加到系统提示词,在不更新权重、无人工标注的前提下提升客服智能体表现。
推荐理由:原文展示了不更新权重、仅靠提示词级学习记忆提升客服智能体可靠性与成本的具体路径和量化结果。
Hugging Face 发布 AnyLanguageModel 1.0,同时推出 swift-huggingface 1.0 和 swift-xet 1.0。
Hugging Face 的 PyTorch 团队发布 PyTorch 2.15 的 MPS 更新:FP8(torch.float8_e4m3fn)登陆 Mac,可用 F.scaled_mm 直接做缩放矩阵乘法,占用内存为 BF16 的一半。
推荐理由:原文用具体吞吐和内存数字说明了 MPS 后端在 Mac 上的能力变化,读者可据此判断本地推理与视频生成工作流的可行性提升。
Hugging Face 官方博客介绍 TorchNeuron,它为 PyTorch 在 AWS Trainium 上提供新的原生后端,Transformers、Diffusers 和 Kernels 已原生支持,自 Oct. 20, 2026 起以 public beta 形式提供,可用 pip install torch-neuronx 安装。
Reflection 在 Hugging Face 上开源了其首个模型 Beam,这是一款 501B 参数(每 token 激活 23B)的 MoE 大语言模型,采用 Apache 2.0 许可,主打编码与智能体场景,支持 1M tokens 上下文窗口。
推荐理由:原文给出架构细节、精度选择与部署配置,读者可据此评估自托管该模型的硬件成本与可行性。
Hugging Face 发布 Granite Switch 4.1 系列模型(Granite-Switch-4.1-8B 和 -30B),通过 Decision aLoRA。
Meta 发布开源权重多模态模型 Muse Spark Open,约 816B 总参数、每 token 约 42B 激活参数,上下文窗口达 1M tokens,支持文本、图像、音频、视频输入与文本输出,面向 agentic coding 场景。
推荐理由:原文给出完整架构参数与多框架部署配方,读者可据此评估自托管该模型的资源门槛与可行路径。
Black Forest Labs 的 FLUX.3 Image Klein 已可在 Diffusers 中使用,一个模型同时支持文生图、多参考图生图和 bounding box 布局控制。
推荐理由:原文拆解了架构与显存速度数据,读者可据此判断能否在现有硬件上跑起来。
Ai2 发布 HiRO-ACE 更新版 HiRO-ACEv2,由工作在 100 km 分辨率的 ACE 模型和将其降尺度到 3 km 的新模型 HiROv2 组成,可生成全球 3 km 分辨率的降雨、风速和海平面气压数据,成本约为高分辨率大气模型 X-SHiELD 的 1/300。
Ai2 团队用 GPU 时间预算、层级公平份额分配和时间片合约取代了原有的优先级调度器,把 GPU 时间分配从逐案协商变成透明的预算流程。新系统要求每个请求由预算支撑,配合 7 天回看窗口的公平份额排序和 8 小时最小运行时保护,30 天测试期内团队拿到了 98% 应得 GPU 小时,集群占用率保持 98%,调试任务 p90 等待时间从 2 小时降到 30 秒,需人工介入的维修下降 74%。
推荐理由:原文完整拆解了从优先级调度到预算制调度的迁移过程与量化收益,可迁移性强。
作者在 HuggingChat 中开启 ML-intern 模式,用提示词驱动其规划、训练、评估并发布模型,几天内做出 6 个模型,总算力成本约 USD 103。
推荐理由:作者公开了七条完整提示词和预算控制写法,可直接迁移到自己的微调项目中。
Microsoft 与 Hugging Face 联合发布 ThinkingBox 沙箱与 ThinkingBox-Bench 基准,按智能体留下的后端终态与副作用而非其自述来打分,覆盖 507 个有状态业务工作流,每个任务独立运行 20 次。
推荐理由:文章用可执行的状态检查揭示工具调用正确不等于结果正确,并给出可复现的评测环境与复现步骤。
Olmo-core 3 是面向大规模 MoE 训练的开放框架升级版,可扩展到万亿参数规模,是下一代 Olmo 的核心系统之一。
推荐理由:原文给出吞吐对比与并行策略取舍,读者可据此评估开放 MoE 训练栈的实际收益。
Hugging Face 发布 Open TTS Leaderboard,用客观指标评估多语言 TTS 与声音克隆模型,包括用 Qwen3 ASR 计算 WER/CER 衡量可懂度、在 H200 GPU 上测 RTFx 与 TTFA 衡量速度、用 WavLM 嵌入余弦相似度衡量说话人相似度,评测一个模型的时间从收集投票的数周缩短到数小时。
Hugging Face 发布论文 ProvenanceGuard,一种面向 MCP 智能体的生成后验证层,可区分"事实有据"与"来源归属正确",专门检测把某来源的事实错误归到另一来源的跨来源混淆。在 281 条医疗智能体真实 trace 上,专家判定应拦截的 139 条声明中它拦下 138 条,来源识别准确率约 86%,并在与四种支持性检查器的对比中取得最高分。
H 公司发布 Holo4 系列智能体模型,包含 27B 稠密版和 35B-A3B MoE 版,两者均已上线 H Models API,权重以 BF16、FP8、NVFP4 和 4-bit GGUF 格式开源在 Hugging Face。
推荐理由:Holo4 同时开源权重与全部评测轨迹,读者可据此比较通用计算机操作智能体在成本与能力上的取舍。