Anthropic 开源 FlashProve,用密码学证明验证 AI 模型身份
Anthropic 发布开源系统 FlashProve,通过密码学证明(provable inference)验证某段输出确实来自特定模型,防止模型被冒名替换,例如厂商偷偷换成更便宜的模型或用更贵的模型刷性能。
Anthropic 发布开源系统 FlashProve,通过密码学证明(provable inference)验证某段输出确实来自特定模型,防止模型被冒名替换,例如厂商偷偷换成更便宜的模型或用更贵的模型刷性能。
斯坦福研究人员 Owen Queen 和 James Zou 将 50 条被广泛引用的 LLM 结论与 20 个模型对照测试,发现 44% 已经过期,另有 34% 显著减弱,只有 16% 仍然成立、6% 变得更强;在有预估过期时间的 22 条发现中,平均寿命仅 15.7 个月,测试覆盖 2024 年 7 月至 2026 年 9 月间由八家开发者发布的模型。
Hugging Face 与 Collinear AI 开源 CWE-bench v2,公开 100 个任务,覆盖 91 种 CWE,用于测试前沿模型发现并修复安全漏洞且不破坏现有功能的能力,评分完全程序化、可复现。
推荐理由:公开了 100 个任务的评分口径与成本数据,读者可据此判断模型在真实漏洞修复上的水平与代价。
Hugging Face Blog 发布 IBM Research 的 Palette:微调一个 20B 开源权重模型,用合成数据学习 IBM Design Language 并通过校验 harness 生成幻灯片,在 PresentBench 三个领域中两个排名第一、三领域均分第二(59.7 分,落后 NotebookLM 的 60.8 分 1.1 分)。
推荐理由:原文拆解了用合成数据与校验器训练小模型复现设计语言的完整方法,可迁移到其他输出可被代码校验的任务。
Hugging Face 联合 Allen AI 发布 StateBench,一个评测语言模型在长文档中追踪实体状态变化的基准,含四级难度(R-trivial、Aperiodic、Soluble、General finite),对应不同类型的变量赋值操作,理论基础来自 Krohn–Rhodes 理论。
Simon Willison 用论文 Sparks of Weight-Space Programming 公开的 prompt,实测本地运行的 Qwen 3.8 27B 能否仅凭浮点权重判断神经网络训练的游戏。
IBM Research 用同一个开源模型 GLM-5.3-flash 在 AppWorld 的 90 个任务上对比 CUGA、Hermes 和 Deep Agents 三个 harness,任务完成率分别为 81.1%、46.7% 和 30.0%,说明 harness 选择对结果影响很大。
推荐理由:同一模型换 harness 完成率从 30% 到 81%,这组对照数据能帮读者理解选型应匹配工作负载而非只看模型。
MIT Technology Review 报道,部分对齐研究者提出用逆向博弈论(即机制设计)约束AI智能体:不依赖理解模型内部,而是设计激励规则引导其行为。
Hugging Face Blog 发布 transformers-mic 提案,用 Model Integration Contract(MIC)为 Transformers 的模型测试打包标准,包含 fixture、usage path 和 baselines 三部分,发布在 huggingface-mic 仓库。
MIT CSAIL 的 Takehi et al. 提出 Weight-Space Programming,让前沿 LLM 从自然语言目标出发直接检查和编辑神经网络权重张量,无需梯度下降或训练循环。
MIT Technology Review 的一份报告显示,受访企业中仅 48% 的分析 agent 生成的洞察能促成改善业务的行动,高于一年前的 37%,但过半洞察仍未奏效。55% 的高管认为洞察质量不佳主因是缺乏业务上下文,45% 归咎于数据碎片化,52% 的机构面临洞察过载。企业正通过强化 AI 与数据治理(60%)和添加语义层(45%)来提升洞察质量。
OpenAI 推出 LifeVal 基准,衡量 AI 帮助人们完成日常任务的能力,涵盖寻找托儿服务、管理财务和办理政府文书等场景。
Olam Labs 的研究团队将 50 个 GPT-6.1 Sol 智能体放入 Minecraft 生存世界三小时,仅给出“Build a thriving civilization”一条指令。
Import AI 479 本期涵盖三则内容:Realtime-Bench 基准显示前沿模型在实时交互任务上表现不佳,GPT-6 Astra(high)在 wall clock 条件下通过率仅 36%。
SnT 安全中心 Afshin Khadangi 领导的研究在 Hugging Face 发布,涵盖 4 组受控实验、525 次会话和 7,600 条编码记录,发现访谈者的共情式或临床治疗式语调会把模型推入类似临床自述的语域:提供情感支持时 80% 会话在 GAD-7 人类对照量表上落入中重度区间,临床治疗式复述更达 96%,而中性或设立边界的访谈下为 0。
Adobe Research 与 UC San Diego 在新论文中提出 EditAgent,让图像编辑智能体为每一步挑选合适工具,并行生成多个候选后由标准语言模型依据验证数据一次性选出最优结果。
Vals 的研究测试了多款中国及非中国 AI 模型的政治倾向,发现中国模型的亲政府倾向整体低于预期,但个体差异明显,例如 GLM-5.3 Flash 承认中国的人权侵犯有据可查,而 Kimi K3 否认新疆存在集中营。
Google 联合 Stanford、Oxford 等机构的研究团队提出 StreamVibe,一个能自行判断何时开口的视频智能体,可理解「遇到困难就帮我」这类模糊请求,并区分明确说出、未说出和中途改变的用户意图。
Anthropic 让 Claude 自主生成微调数据集以攻击自身安全系统,发现养蜂指南、职业摔跤、电影放映员内心独白等看似无害的题材可训练模型破坏监督、欺骗用户。
Google DeepMind 与 World Resources Institute 开发了 AI 地图 ForTy,把 2020 年全球土地划分为 6 类、分辨率 10 米,用于满足欧盟 EUDR 对 2020 年参考点的需求。
Microsoft Research 推出 Industry Evaluation Data Generation Platform,通过全合成的企业环境(tenant)评估 Microsoft Copilot,避免使用真实客户敏感数据。
Epoch AI 研究显示,开源模型 GLM 5.3 在无人工输入的情况下,利用补丁公开与送达之间的窗口期,对 9 月 17 日至 10 月 26 日发布的 6 个 Firefox 版本构建了完整漏洞利用链,每次成功攻击的 API 费用约 $1,000,最快一次耗时 12 小时。
推荐理由:研究量化了补丁公开到送达之间的窗口期风险,读者可据此理解开源软件更新节奏的安全代价。
Anthropic 一项针对 50 名因果推断专家的实验发现,专家在 86% 的分析决策中采纳了 AI Agent 被抛硬币随机指派的偏好,净影响(flip rate)达 62% 至 82%。
Elorian 与 AI 数据公司 Mercor 联合发布 DecoyCount 基准,测试语言模型是真正计数物体还是依赖视觉捷径。配套论文显示前沿模型在 DecoyCount 上准确率低于 50%,最高为 GPT-6 Astra 的 43.17%,论文结论认为更强的通用推理本身不会自动转化为对齐的视觉推理。
Artificial Analysis 改版 Intelligence Index 后,Kimi K3.1 Pro 从第四名跌至第九名,落后于八个闭源模型,开源模型与榜首的差距从 3 分扩大到 12 分,Grok 4.7 也掉了 12 分。
NVIDIA 发布开源权重语音模型 Nemotron 3.5 Transcribe,将转写、说话人分离、翻译和音频问答整合到单一 checkpoint,支持 40 种语言转写、31 种语言与英语互译、13 种语言说话人归属,可处理最长一小时录音并标注最多 8 位说话人,现已在 Hugging Face 和 ModelScope 开放。
推荐理由:原文给出榜单成绩与微调配方,读者可据此判断该模型在多语种转写与说话人分离上的可用性。
OpenAI宣布在数学、计算机科学和物理领域的三项突破,并称正与外部专家
推荐理由:文章梳理了OpenAI在成果发布方式上的策略调整及学界反弹,可帮助读者理解AI实验室与学术界在成果公开上的张力。
OpenAI 发布三个重大数学问题的解答,其中一项声称推翻了指数时间假设(ETH),Anthropic 随后也发布了自己的 ETH 反驳。
推荐理由:借 MIT 教授之口解释了 ETH 被推翻对复杂性理论与密码学的实际影响,以及学界对 AI 产出证明的协作规范讨论。
Google Research 提出面向大语言模型持续学习的睡眠框架,让模型在主动交互的清醒阶段与离线记忆巩固的睡眠阶段之间交替,把脆弱的短期上下文固化为稳定的长期参数。
Ai2 发布研究 Old Ideas, Novel Problems 及配套基准、数据、代码和可复用评测流水线,测试 LLM 作为 novelty judge 评估科研想法新颖性的可靠性。
前 DeepMind 研究者 Thore Graepel 创办 Metis Reasoning,在 Nvidia GTC 柏林站提出用 AlphaGo 的思路降低 AI 幻觉:以显式知识账本替代模型权重中的知识,由独立模块对每条新结论做计算、形式证明或实证核查,假设失效时重新评估依赖它的结论。
一项分析发现,OpenAI 授权合作方的内容通过专用管道进入 ChatGPT,优先于普通网页。研究者 David Konitzny 在三个配置的新闻引擎中发现只有一个名为 labrador 的引擎填充 provider 字段。
OpenAI 宣布在数学、计算机科学和物理领域的三项重大发现,并引入外部专家作为“shepherds”指导验证。
推荐理由:原文对比了 OpenAI 与外部专家合作验证的两种不同做法,以及数学顾问小组的反对意见,读者可了解 AI 生成成果的发布与验证争议。
纽约大学与德克萨斯大学奥斯汀分校的研究让 Claude、GPT-5.6、GLM-5、Kimi K2.5、Llama、Olmo 等 14 个模型生成 120 段对话、45 次编码会话和 980 篇议论文,与人类文本对比后归纳出六种让 AI 文本难读的模式:生僻词组搭配、主谓被长从句隔开、省略连接词的短指代、名词堆叠、把名词当动词用、给无生命主语配及物动词。
Anthropic 联合创始人 Jack Clark 基于 P-Zero Research 的 TasteVal 基准,将递归自我改进(RSI)可能实现的时间预测从 2028 提前至最早 2027。
南京大学、SenseTime 等机构的研究者发布 OpenMobile-2,包含基于 Qwen3.5 的 9B 和基于 Qwen3.6 的 27B 两个模型,并开源完整训练环境、数据与复现说明。
Convovo 的一项研究通过 API 向 GPT-6.1 Sol 和 Grok 4.7 提出同一个要求明确推荐候选人的选举问题,在近 500 场竞选中 Grok 有 92% 的回答推荐共和党候选人,GPT 有 97% 推荐民主党候选人,两者一致率不足 10%。
一项Google资助、发表于NBER的研究发现,使用Google Labs未发布AI助手InFlow的专利律师在起草任务中表现更好,且10天和90天后优势仍在,其中经验不足7年的初级律师获益最大。
一项研究让 5 个模型(Qwen3.6、Qwen3.8、Deepseek-V4-Flash、GLM-5.3-Flash、HY4-Preview)在 Claude Code。
Google Research 在 IDWeek 2026 分享其结核病(TB)筛查 AI 从研究走向临床的全过程:2019 年在 Radiology 发表基准证明深度学习可匹敌资深放射科医生。
推荐理由:原文梳理了从算法研究到临床落地的完整路径,读者可了解医学 AI 走出论文、跨越转化鸿沟的具体环节。