跳到正文
11月13日周五
11月11日周三
  1. Microsoft Research74

    微软研究 Lazarus 后门技术:重编程休眠神经元可劫持 AI Agent

    微软研究人员发现名为 Lazarus 的后门技术,重编程 LLM 中少于 10 个休眠神经元、无需训练即可让 AI Agent 在触发时执行攻击者命令,且模型仍能通过标准评测。

    推荐理由:原文给出少于10个休眠神经元即可植入后门且无需训练的机制细节,可帮助读者理解权重完整性为何成为模型安全的关键。

11月10日周二
  1. TechCrunch · AI88

    Anthropic IPO 定价每股 70 至 78 美元,隐含估值 1.404 万亿美元

    Anthropic 在更新的 IPO 文件中宣布以每股 70 至 78 美元发行 8.25 亿股 A 类股,若按区间上限定价,完全摊薄后估值达 1.404 万亿美元,高于其 5 月融资时的 9650 亿美元,但低于此前据报道瞄准的 2 万亿美元。

    推荐理由:原文给出定价区间、募资规模与关键财务数字,便于读者对照其估值与同期 OpenAI 融资情况。

11月7日周六
11月6日周五
  1. Microsoft Research62

    Microsoft Research 推出 PDD Kit,用形式化验证约束智能体生成的全栈 Web 应用

    Microsoft Research 与 GitHub Next、RiSE 合作推出 PDD Kit,把形式化验证引入日常软件开发:它在 GitHub Next 的 Chopin 规划环境中与开发者协作,把自然语言意图转成 Verus 形式化规范,自动为智能体生成的代码生成证明,证明覆盖每个输入,证明触及不到的部分则回退为测试。

    推荐理由:原文完整展示了从意图到形式化规范再到证明的七步工作流,可迁移之处在于它把代码审查重心移到了意图审查。

11月5日周四
11月4日周三
11月3日周二
10月31日周六
10月30日周五
  1. The Verge · AI60

    Wikimedia 就 AI 版权诉讼提交法庭之友意见书,主张训练合理使用但生成需授权

    Wikimedia 基金会就《纽约时报》等出版方起诉 OpenAI 和 Microsoft 的 AI 版权系列案件提交法庭之友意见书,不站队任何一方。其主张抓取网站不应视为侵权,未经许可用版权作品预训练 LLM 且产出与原作有实质区别时应属合理使用;但若模型在响应用户查询时输出内容并取代读者对原作的访问,则应取得授权。

10月29日周四
10月27日周二
10月26日周一
  1. MIT Technology Review · AI50

    MIT科技评论:AI安全只盯灾难性事件,忽视日常伤害

    文章指出科技行业把AI安全窄化为防范灾难性事件,借此规避对日常依赖性伤害的监管,而谷歌等公司正推动带有豁免条款的州级法案来巩固这一有利定义。作者列举青少年对AI伴侣的依赖、MIT研究发现的用ChatGPT写文章时的脑连接减弱与认知债务等证据,主张安全只是底线,还应要求企业在产品中增加摩擦、禁止设计假装有意识的AI伴侣,并在教室应用前证明AI确实提升学习与批判性思维。

10月25日周日
10月23日周五
  1. Hugging Face Blog61

    微软与 Hugging Face 开源 ThinkingBox-Training:用数据库终态检查作为 RL 奖励后训练智能体

    微软与 Hugging Face 联合发布并开源 ThinkingBox-Training(microsoft/thinkingbox-training),把 ThinkingBox-Bench 中对数据库终态的可执行检查复用为 RL 训练奖励。

    推荐理由:原文给出了把数据库终态检查复用为 RL 奖励的完整训练流程与开源实现,读者可据此迁移方法到自己的智能体任务集。

10月22日周四
  1. Microsoft Research75

    Microsoft Research 研究者与 AI 协作证明 31 年悬案 KLS 猜想

    Microsoft Research 机器学习与优化组的 Xinzhi Zhang 与合作者 Zhao Song 证明了 1995 年提出的 Kannan-Lovász-Simonovits(KLS)猜想,表明对数凹分布的最佳平面切割与任意形状切割之差不超过一个与维度无关的普适常数。

    推荐理由:原文对比了无人引导的同预算尝试与人机协作的差异,可迁移地说明研究者判断在 AI 辅助证明中的作用。

10月21日周三