跳到正文
10月6日周二
10月4日周日
  1. Hugging Face Blog74

    Microsoft ThinkingBox 发布:按数据库终态评测智能体的基准与沙箱

    Microsoft 与 Hugging Face 联合发布 ThinkingBox 沙箱与 ThinkingBox-Bench 基准,按智能体留下的后端终态与副作用而非其自述来打分,覆盖 507 个有状态业务工作流,每个任务独立运行 20 次。

    推荐理由:文章用可执行的状态检查揭示工具调用正确不等于结果正确,并给出可复现的评测环境与复现步骤。

9月30日周三
9月28日周一
9月23日周三
9月22日周二
9月16日周三
9月2日周三
8月28日周五
8月27日周四
  1. Google DeepMind55

    Google DeepMind 试点全球首个双盲 AI 评测

    Google DeepMind 宣布推出全球首个针对专有前沿模型的双盲评测,将外部评测限制在密码学“盒子”中,防止模型事后利用考题优化成绩。该评测与 Singapore AI Safety Institute、OpenMined、AVERI 和 MLCommons 合作,在保护隐私的环境中用保密基准测试 Gemini Flash Lite 模型,以缓解基准污染问题、提升评测完整性。

8月21日周五
8月19日周三
8月13日周四
  1. Microsoft Research42

    MindTopo:微软研究院推出评估多模态模型拓扑推理能力的新基准

    微软研究院推出 MindTopo 基准,用于评估多模态大语言模型在连通性、封闭、顺序、分离和绳结五类拓扑关系上的推理与规划能力。测试显示,当前模型在静态图像识别上表现明显优于交互式规划任务,失败多发生在规划阶段而非感知阶段,图像与视频生成工具也难以在动作序列中稳定保持拓扑关系。

7月29日周三
7月17日周五
7月16日周四
7月15日周三
7月8日周三
7月1日周三
6月30日周二
6月24日周三
6月18日周四
6月17日周三
6月16日周二
5月29日周五
5月22日周五
5月19日周二
  1. Hugging Face Blog74

    Hugging Face 发布 Ettin Reranker 系列六款 CrossEncoder 重排模型

    Hugging Face 发布六个基于 Ettin ModernBERT 编码器的 Sentence Transformers CrossEncoder 重排模型,尺寸从 17M 到 1B,均以 Apache 2.0 开源,并同步公开训练数据 cross-encoder/ettin-reranker-v1-data(约 143M 三元组)和约 150 行的完整训练脚本。

    推荐理由:给出了各尺寸的基准对比和消融数据,读者可据此判断何时该用它替换现有 reranker。

5月6日周三
4月21日周二
4月15日周三
4月14日周二
4月9日周四
4月3日周五
4月1日周三
3月24日周二
3月18日周三
  1. Google DeepMind57

    Google DeepMind 发布 AGI 认知能力分类论文并联合 Kaggle 推出评测黑客松

    Google DeepMind 发布论文《Measuring Progress Toward AGI: A Cognitive Taxonomy》,提出包含感知、生成、注意、学习、记忆、推理、元认知、执行功能、问题解决、社会认知在内的 10 项关键认知能力分类,并给出三阶段评测协议:用保留测试集评估 AI、采集人口代表性成人基线、将 AI 表现映射到人类表现分布。