Alyah:面向阿拉伯语大语言模型的阿联酋方言能力评测基准
Hugging Face 团队推出阿联酋方言评测基准 Alyah,含 1,173 个人工采集的四选一选择题样本,覆盖问候、诗歌、历史遗产等 7 类内容。
Hugging Face 团队推出阿联酋方言评测基准 Alyah,含 1,173 个人工采集的四选一选择题样本,覆盖问候、诗歌、历史遗产等 7 类内容。
Google Research 在 NeurIPS 2025 推出 Greedy Independent Set Thresholding(GIST)算法,通过平衡数据多样性与效用解决子集选择难题,在图像分类等 benchmark 上超越 SOTA,并提供数学保证:所选子集价值至少为最优解的一半。
Google Research 在 EMNLP 2025 发表论文,提出将用户意图理解拆分为"逐屏摘要 + 从摘要序列提取意图"两阶段的分解式工作流,让小多模态模型(MLLM)在设备端完成 UI 轨迹意图提取。
Hugging Face 推出 AssetOpsBench,一个面向工业资产管理的 Agent 评测基准,包含 2.3M 传感器遥测点、140+ 场景、4.2K 工单和 53 种故障模式,从任务完成、检索准确率、结果验证、序列正确性、清晰度与幻觉率六个维度打分。
Google Research 发表研究 Smartwatch-Based Walking Metrics Estimation,用基于 TCN 的多输出深度模型从单只 Pixel Watch 的 50 Hz IMU 信号和用户身高直接估计步态速度、步长、双支撑时间、摆动时间与支撑时间等步态指标。
Google Research 研究确认 Android Auto 采集的急刹车事件(HBE,减速度超 -3m/s²)与路段碰撞率呈统计显著正相关,可作为领先指标用于道路安全评估。
Google Quantum AI 在 Nature Physics 发表 Demonstration of dynamic surface codes,在 Willow 处理器上实验演示了动态电路版表面码,通过在不同电路构造间交替来检测错误。
推荐理由:原文给出三种动态电路的具体设计与实测数据,读者可据此理解动态表面码如何绕开静态电路的硬件约束。
Google Research 发文介绍 NeuralGCM 在 Science Advances 上发表的新研究,通过直接用 NASA 2001 至 2018 年卫星降水观测训练模型的机器学习部分,改进了降水模拟。
伯克利 AI 研究团队提出一套基于互信息的成像系统评估与优化框架,可直接从含噪测量中估计信息量,并在彩色摄影、射电天文、无透镜成像和显微成像四个领域验证其能预测解码器性能。该方法优化出的设计达到端到端 SOTA 方法水平,同时占用更少内存和算力,且无需任务专用解码器设计。
OpenAI 发布了一套针对链式推理可监控性的新框架与评估套件,涵盖 24 个环境中的 13 项评估。研究发现,监控模型的内部推理比仅监控输出有效得多,为随着 AI 系统能力增强实现可扩展控制提供了有前景的路径。
OpenAI 推出 FrontierScience 基准,用于测试 AI 在物理、化学和生物学领域的推理能力,衡量其向真实科研任务迈进的进展。
Google Research 在 COLM 2025 发表论文推出 Urania 框架,通过差分隐私(DP)聚类、DP 关键词提取与 LLM 摘要,为 LLM 聊天交互生成带形式化隐私保证的使用洞察。与非私有基线 Simple-CLIO 对比中,LLM 评估者在某次评测里最多有 70% 的时间偏好 DP 生成的摘要。隐私参数 ε 越小,摘要主题覆盖粒度越低,但隐私保证是数学性的而非启发式。
Google DeepMind 联合 Kaggle 推出 FACTS Benchmark Suite,包含 Parametric、Search、Multimodal 三个新基准及更新版 Grounding v2,共 3,513 个样例并公开发布,Kaggle 负责管理私有集、测试主流 LLM 并运营公开榜单。
Google Research 发布两篇新论文 Titans 和 MIRAS:Titans 是具体架构,引入以多层感知机实现的神经长期记忆模块,通过“惊讶度”指标在运行时选择性更新记忆;MIRAS 是统一序列建模的理论框架,用四个设计选择刻画记忆架构、注意力偏置、保留门与记忆算法。
Google Research 在 NeurIPS 2025 推出 Massive Sound Embedding Benchmark(MSEB),标准化评测转写、分类、检索、推理、分割、聚类、重排、重建八项听觉核心能力。
Hugging Face 的 Open ASR Leaderboard 新增多语言与长音频转写赛道,截至 21 Nov 2025 已对比来自 18 个机构的 60+ 开源与闭源模型、覆盖 11 个数据集,并配有一篇预印本总结趋势。
Google Quantum AI 与 Stanford、MIT、Caltech 合作在 Nature 发表论文,提出名为 Decoded Quantum Interferometry(DQI)的量子算法,把优化问题转译为解码问题,利用量子干涉寻找近似最优解。
Google DeepMind 在 Nature 发表新论文,用认知科学的 odd-one-out 任务揭示视觉模型与人类在组织视觉世界上的系统性差异,并提出三步对齐方法改善模型的稳健性和泛化能力。
Google Research 在 NeurIPS 2025 发表论文《Nested Learning: The Illusion of Deep Learning Architectures》,提出 Nested Learning 范式,将模型架构与优化算法视为同一系统的不同优化层级,以应对持续学习中的灾难性遗忘问题。
Google Research 公布新研究 moonshot Project Suncatcher 及预印本论文,构想由太阳能卫星组成星座、搭载 Google TPU 并通过自由空间光链路互联,打造可扩展的太空 AI 算力。
OpenAI 推出 IndQA,一个用于评估 AI 系统印度语言能力的新基准。该基准与领域专家合作构建,覆盖 12 种语言和 10 个知识领域,测试文化理解与推理能力。
OpenAI 发布 gpt-oss-safeguard 技术报告,介绍基于 gpt-oss 模型后训练得到的两个开放权重推理模型 gpt-oss-safeguard-120b 和 gpt-oss-safeguard-20b,它们被训练依据给定策略进行推理并按该策略标注内容。报告描述了模型能力,并以底层 gpt-oss 模型为基线给出基线安全评测结果。
Hugging Face 发布检索嵌入基准 RTEB 的测试版,用于评估 embedding 模型在真实应用中的检索准确度。它采用公开与私有数据集混合策略,公开部分可复现,私有部分由 MTEB 维护者评测以保证公正,模型若在两者间表现落差明显即提示过拟合。
Hugging Face 发布智能体评测基准 Gaia2 及配套开源框架 Meta Agents Research Environments(ARE),Gaia2 数据集以 CC by 4.0 许可发布,ARE 以 MIT 许可发布。
推荐理由:原文给出了评测维度与各模型的强弱分布,读者可据此判断当前智能体能力的真实短板所在。
Apollo Research 与 OpenAI 共同开发了针对隐藏对齐行为(scheming)的评估方法,并在受控测试中于多个前沿模型上发现了与 scheming 一致的行为。团队还分享了降低 scheming 的早期方法的具体案例与压力测试。
OpenAI 新研究解释了语言模型产生幻觉的原因,并指出改进评测方式可提升 AI 的可靠性、诚实性与安全性。
Berkeley AI Research 的新论文为 word2vec 的学习过程给出了定量且可预测的理论:在合理近似下,其学习问题可化简为无权最小二乘矩阵分解,梯度流动力学有闭式解,最终学到的表示等价于对目标矩阵 M* 做 PCA。
Hugging Face 发布 TextQuests 基准,基于25款经典 Infocom 交互式小说游戏评测 LLM 作为自主智能体的能力,这些游戏人类通关需超过30小时和数百步精确操作。
Hugging Face 推出 FilBench 评测套件,用 4 大类 12 项任务评估 20+ 个 LLM 在 Tagalog、Filipino 和 Cebuano 上的文化知识、经典 NLP、阅读理解与生成能力,结果已作为社区任务上线 Lighteval。
OpenAI 在论文中研究了发布 gpt-oss 的最坏情况前沿风险,提出恶意微调(MFT)方法,试图通过微调让 gpt-oss 在生物和网络安全两个领域发挥最大能力。
Hugging Face 推出首个面向阿拉伯语 LLM 的 STEM 与代码生成评测基准 3LM,包含 865 道原生 MCQ、1,744 道合成 MCQ,以及翻译自 HumanEval+ 和 MBPP+ 的代码任务。
Hugging Face 发布并开源长视频理解基准 TimeScope,通过在 1 分钟至 8 小时的视频中插入 5-10 秒短片作为“针”,以局部检索、信息综合、细粒度时序感知三类任务评估模型的真实时序理解能力。
Hugging Face 发布 FutureBench,通过让 AI 智能体预测未来事件来评测能力,以规避数据污染并获得可随时间验证的客观结果。题目来自两处:基于 smolagents 的智能体抓取新闻生成问题(用 DeepSeek-V3 推理、Firecrawl 抓取、Tavily 搜索,每次约 5 题、一周时间窗),以及 Polymarket 每周约 8 题并做筛选。
Hugging Face 宣布 NeurIPS 2025 E2LM 竞赛,征集能捕捉 LLM 早期训练阶段(约 200B tokens 内)科学知识领域信号的新评测基准,参赛方案需基于 lm-evaluation-harness 库通过 Hugging Face Space 提交。
OpenAI 研究了在错误响应上训练如何导致语言模型出现更广泛的错位,并识别出驱动该行为的一个内部特征,该特征可通过最少的微调加以逆转。
Hugging Face 发布研究,提出 Structured CodeAgent,让 CodeAgent 以 JSON 格式同时生成 thoughts 和 code 字段,在 GAIA、MATH、SimpleQA、Frames 等基准上比普通 CodeAgent 平均提升 2-7 个百分点。
OpenAI 推出 HealthBench,一个在真实场景下评估 AI 模型医疗表现的新评测基准,由 250 多名医生参与共建,旨在为模型在健康领域的性能与安全提供统一标准。
HELMET 团队发布长上下文语言模型评测基准的新结果并将在 ICLR 2025 展示,此前该基准已被 Microsoft 的 Phi-4 和 AI21 的 Jamba 1.6 采用。
OpenAI 推出 BrowseComp,一个专门用于评测浏览智能体(browsing agents)的基准。原文仅给出基准名称与定位,未披露具体任务数量、评分方法或模型成绩。
OpenAI 推出 PaperBench,一个评估 AI 智能体复现最先进 AI 研究能力的基准。该基准要求智能体从零开始复现前沿论文的代码与实验结果,以衡量其独立完成科研任务的水平。