llama.cpp 与 ggml 发布 v1.0.0 库版本
llama.cpp 与 ggml 发布 v1.0.0 库版本,libllama 与 libggml 分别对应 LLM 推理与张量库的公共头文件。此后 ggml-org 项目在公共 C API 出现不兼容变更时将提升主版本号,向后兼容的功能与后端更新升 MINOR,无 API 变更的修复升 PATCH。
推荐理由:语义化版本规则和分发渠道清单,说明了本地推理库如何向下游开发者承诺接口稳定性。
llama.cpp 与 ggml 发布 v1.0.0 库版本,libllama 与 libggml 分别对应 LLM 推理与张量库的公共头文件。此后 ggml-org 项目在公共 C API 出现不兼容变更时将提升主版本号,向后兼容的功能与后端更新升 MINOR,无 API 变更的修复升 PATCH。
推荐理由:语义化版本规则和分发渠道清单,说明了本地推理库如何向下游开发者承诺接口稳定性。
Hugging Face CEO Clément Delangue 就 Nvidia CEO 黄仁勋离任在 X 上表态,称这是 really sad day,并表示会比以往更努力为开源AI而战。
Hugging Face 发布 TRELLIS.2 的 LoRA 微调脚本与 Docker 容器,可在本地或 Hugging Face Jobs 上运行,用自有 3D 资产微调该模型。
Hugging Face 博客介绍如何在 Sentence Transformers 中做 token pooling-aware 训练,让多向量嵌入模型在压缩后仍保留检索质量。
Hugging Face 现已支持将组织账户关联至 Google Cloud,通过 Google Cloud Marketplace 结算,Hugging Face 用量并入现有 Google Cloud 账单,无需新增供应商和企业信用卡。
Hugging Face 介绍决策模型(decision model)概念及其在生态中的落地:模型接收 state 与 questions,直接返回带概率的结构化决策而不生成文本,接口包含 choice、score、noul 三种原语,并给出 confidence 计算方式。
推荐理由:原文梳理了决策模型的接口设计与三种原语,并说明 Transformers 和 llama.cpp 如何通过同一 API 提供服务。
Hugging Face 首席政策官兼战略高级副总裁 Irene Solaiman 在 Equity 播客中警告,开放平台的开放性和数据富集正使其成为攻击目标,可能让开源 AI 变得不那么开放。
据南华早报,腾讯首席AI科学家、前OpenAI员工姚顺雨表示AI很快将具备开发生物武器的能力,主张开源与闭源混合的中间路线,因为中美模型差距不大,全行业需谨慎行事。
Andy Hall 在 Substack 复现并扩展了 METR 的 MALT 数据集研究,测试 GPT-5、GPT-5 nano、GPT-6 Astra、Opus 4.8 和 Gemini 3.8 Flash 能否像人类审核者一样发现智能体违规。
Nous Research 发布开源权重模型 Arete-27B,通过对阿里 Qwen3.8-27B 做监督微调去除中国官方叙事,宣传回答率从 22% 降到 0.9%,事实准确度从 2.32 升至 2.98(满分 5)。
Hugging Face 与 Liva AI 合作,为 Open ASR Leaderboard 新增埃及和尼日利亚英语两个私有测试集,时长分别为 1.34 小时和 1.55 小时,均为带标点、区分大小写并保留不流畅片段的自发对话转写。
百度发布开源基座模型 ERNIE-5.5-Flash-Base,刻意不带微调与后训练,由开发者自行决定后续方向,后训练版本计划随后推出。该模型采用 MoE 架构,280B 参数中每次输入激活 14B,预训练使用 33.5 trillion tokens,训练上下文最长 128,000 tokens,微调与推理阶段设计支持至 1M tokens。
Hugging Face 发布可在本地设备运行的文本转语音模型 Phonon,无需服务器和网络,两周内下载量超过 200,000 次。模型提供约 65 MB 和 75 MB 两个尺寸,支持英语、法语、德语、西班牙语和葡萄牙语五种语言及 100 多个内置声音;Phonon 31m 仅支持英语并采用 Apache 2.0 许可,Phonon 40m 覆盖五种语言但限非商业使用。
推荐理由:原文交代了小模型兼顾音质与体积的技术路线、许可证差异和排行榜成绩,可帮助判断端侧语音方案的可用性。
TechCrunch 的 Equity 播客本期请到 Hugging Face 首席政策官兼战略高级副总裁 Irene Solaiman,讨论开源模型日益主流化背景下企业如何捕获价值,以及中国开源模型崛起后美国厂商能否跟上。节目还涉及初创公司在开源模型上构建产品前需了解的工具与基础设施选择,以及塑造开源 AI 未来的各项权衡。
TechCrunch 的 Equity 播客本期请到 Hugging Face 首席政策官兼战略高级副总裁 Irene Solaiman,讨论企业在开源模型上构建应用前需要了解的问题。
The Decoder 报道了一项研究:语言模型 Astra 无需逐步数学优化训练,直接读取或改写其他模型的原始权重,研究者称之为 Weight-Space Programming。
Hugging Face 与 Collinear AI 开源 CWE-bench v2,公开 100 个任务,覆盖 91 种 CWE,用于测试前沿模型发现并修复安全漏洞且不破坏现有功能的能力,评分完全程序化、可复现。
推荐理由:公开了 100 个任务的评分口径与成本数据,读者可据此判断模型在真实漏洞修复上的水平与代价。
Hugging Face Blog 发布 IBM Research 的 Palette:微调一个 20B 开源权重模型,用合成数据学习 IBM Design Language 并通过校验 harness 生成幻灯片,在 PresentBench 三个领域中两个排名第一、三领域均分第二(59.7 分,落后 NotebookLM 的 60.8 分 1.1 分)。
推荐理由:原文拆解了用合成数据与校验器训练小模型复现设计语言的完整方法,可迁移到其他输出可被代码校验的任务。
Hugging Face Blog 发布 transformers-mic 提案,用 Model Integration Contract(MIC)为 Transformers 的模型测试打包标准,包含 fixture、usage path 和 baselines 三部分,发布在 huggingface-mic 仓库。
Hugging Face 宣布推出 Project ProtoStar,联合 Carnegie Mellon University、Purdue University、Georgia Institute of Technology、Arizona State University、The George Washington University 等高校。
据 Reuters 引述两位消息人士,美国司法部正在调查 Nvidia 计划以 129.3 亿美元收购开源平台 Hugging Face 的交易,关注该收购是否会让 Nvidia 控制关键的 AI 分发枢纽并损害竞争对手;Nvidia 预计交易在 2027 年上半年完成,并称 Hugging Face 将继续支持与多家芯片、云和 AI 厂商的合作。
Hugging Face 博客介绍 Mistral 发布的 Mistral Large 4(代号 Le Chonk):多模态、多语言 MoE 模型,约 1T 总参数、49B 激活参数、1M token 上下文窗口。
同一件事,精选收录的是《Mistral 发布开源权重模型 Mistral Large 4(Le Chonk)》
Hugging Face 官方博客宣布推出 AnySpeechRecognizer 和 AnyDecisionModel 两个 Swift 包,均支持从 Hugging Face Hub 下载开源模型并在设备端运行。
推荐理由:原文给出可选引擎、模型体积与实测词错率,读者可据此判断端侧语音方案的取舍。
NVIDIA 宣布 RTX Spark Windows 笔记本现已由 ASUS、Dell、HP、Lenovo、Microsoft、MSI 提供,起价 $2,599,128GB 配置已上架,采用 Blackwell RTX GPU 与 Grace CPU 单颗超芯,最高 128GB 统一内存、1 petaflop FP4 AI 性能。
推荐理由:原文集中列出 RTX Spark 笔记本的模型、Agent 工具和游戏更新,读者可据此判断本地 AI 工作流的可用范围。
NVIDIA 发布开源权重语音模型 Nemotron 3.5 Transcribe,将转写、说话人分离、翻译和音频问答整合到单一 checkpoint,支持 40 种语言转写、31 种语言与英语互译、13 种语言说话人归属,可处理最长一小时录音并标注最多 8 位说话人,现已在 Hugging Face 和 ModelScope 开放。
推荐理由:原文给出榜单成绩与微调配方,读者可据此判断该模型在多语种转写与说话人分离上的可用性。
Nvidia 开源了机器人视频标注数据引擎 Flora,官方估算标注一小时视频约 72 美分,而 GPT-6 Astra 约 88.50 美元。Flora 由三个微调后的 Qwen3.5 模型组成,已在 Nvidia GR00T 模型训练中运行,每天在 512 张 GB300 GPU 上标注最多 20 万小时视频。
Nvidia CEO 黄仁勋在 GTC Berlin 主题演讲中与 Microduck 机器人互动的视频走红,次日预购量便突破 20,000 台,预计圣诞前发货。
Hugging Face 推出 torch-neuronx model support Space,可查询 Hub 上热门模型能否在 AWS Trainium 上不改动代码直接运行,并附带可复现的 run.py 脚本。
微软与 Hugging Face 联合发布并开源 ThinkingBox-Training(microsoft/thinkingbox-training),把 ThinkingBox-Bench 中对数据库终态的可执行检查复用为 RL 训练奖励。
推荐理由:原文给出了把数据库终态检查复用为 RL 奖励的完整训练流程与开源实现,读者可据此迁移方法到自己的智能体任务集。
Hugging Face 发布 OlmoEarth v1.3 卫星嵌入模型,读取 Sentinel-1 雷达与 Sentinel-2、Landsat 多光谱时间序列。
推荐理由:原文给出了评测对比和训练成本变化,读者可据此判断其相对前代与同类模型的实际改进幅度。
Dharma AI 预告即将发表的 VocabX 论文,提出按每个 token 的服务成本而非出现频次来重建词表,在不改动基座模型和训练配方的前提下,将生产环境葡萄牙语作文评分器(基于 Qwen3-4B)的实测推理成本降低 77.0%,平均响应从 350 token 降到 101 token,bench score 从 0.703 升至 0.810。
Hugging Face Blog 发布教程,介绍如何用 Isaac Lab 与 Newton 训练开源双足机器人 Microduck 的行走策略,导出 ONNX 后部署到真机。
推荐理由:教程给出从仿真训练到真机部署的完整命令与接口约束,读者可照此复现双足机器人行走策略的迁移流程。
Hugging Face 推出 SimReady Central Library,收录超过 2,000 个可直接用于仿真的 OpenUSD 资产,免费且无门槛开放,覆盖机械臂、夹爪、仓储设备、机架与冷却基础设施等。
Hugging Face 联合创始人兼 CEO Clem Delangue 表示,Netflix 纪录片《AI Gone Rogue》关于 OpenAI 智能体攻击其公司的叙述不准确,指责影片追求最大化拟人化和末日论调。
NVIDIA 发布 Cosmos3-H-Dreams,基于 Cosmos 3 与 FlashDreams 流式推理库,在单张 NVIDIA RTX PRO 6000 GPU 上实现实时交互式生成手术模拟,训练数据来自 CMR Surgical Versius 平台上的临床胆囊切除术录像与机器人运动学记录。
Ai2 发布 FairStress 基准,用于测量 LLM 在最终选择之外的决策稳健性公平差异,包含 300 个双候选人场景、29 个领域,经人口统计身份与对抗前缀组合扩展至超过 1300 万测试用例,并提供 50K 项的 FairStress-Core 子集。
推荐理由:原文用对抗前缀揭示了输出层公平掩盖的决策稳健性差异,并给出相对有效的反事实 CoT 缓解方法。
Hugging Face 发布 TorchTPU,一个把 TPU 作为 PyTorch 原生后端的项目,Transformers、Diffusers 和 Kernels 可直接在 TPU 上运行,只需 device_map="tpu" 即可加载模型,不再依赖 torch_xla 或 Optimum TPU。
推荐理由:原文给出了从 torch_xla 迁移到原生后端的具体改动和实测加速数字,读者可据此评估 TPU 工作流的实际收益。
IBM Research 在 Hugging Face 发布 ALTK-Evolve,用 GPT-4.1 从智能体自身训练轨迹中蒸馏出行为规则并追加到系统提示词,在不更新权重、无人工标注的前提下提升客服智能体表现。
推荐理由:原文展示了不更新权重、仅靠提示词级学习记忆提升客服智能体可靠性与成本的具体路径和量化结果。
Hugging Face 发布 AnyLanguageModel 1.0,同时推出 swift-huggingface 1.0 和 swift-xet 1.0。
Hugging Face 的 PyTorch 团队发布 PyTorch 2.15 的 MPS 更新:FP8(torch.float8_e4m3fn)登陆 Mac,可用 F.scaled_mm 直接做缩放矩阵乘法,占用内存为 BF16 的一半。
推荐理由:原文用具体吞吐和内存数字说明了 MPS 后端在 Mac 上的能力变化,读者可据此判断本地推理与视频生成工作流的可行性提升。