跳到正文

全部动态

今日 15 条
9月23日周三
  1. Simon Willison8

    llm 0.36 发布

    Simon Willison 于 9 月 22 日发布 llm 0.36 版本更新。作者同时提供每月 LLM 简报邮件订阅,可按 $10/月 赞助获取当月重要 LLM 动态的精选摘要。

9月22日周二
9月21日周一
  1. Hugging Face Blog62

    Hugging Face 发布 tokenizers v1:编码提速 3 至 30 倍

    Hugging Face 发布 tokenizers v1 候选版本,在 Apple M4 Max 单线程下编码速度比 v0.23 快 3 至 30 倍,八线程扩展效率为线性的 76%,且输出 token ID 与 v0.23 完全一致。

    推荐理由:原文给出 v1 与 v0.23 的逐项基准对比和实现改动,可据此判断分词器在训练与推理管线中的实际提速空间。

9月20日周日
9月18日周五
9月17日周四
9月16日周三
  1. NVIDIA Blog60

    NVIDIA DSX 通过 MaxLPS 与 Flex 提升 AI 工厂每兆瓦产出

    NVIDIA 介绍 DSX 平台如何在固定电力预算下提升 AI 工厂产出:Lambda 在 HGX B200 服务器上首次验证 DSX MaxLPS,用与 16 节点满功率相同的预算运行 19 节点,集群 token 吞吐从约 4 million tokens per second 提升到 5 million(+24%),性能功耗比提升 23%。

    推荐理由:原文给出了 Lambda 实测的吞吐与能效数字,以及电网信号自动降载的生产案例,可据此评估其对电力受限场景的实际价值。

9月14日周一
9月12日周六
9月10日周四
  1. OpenAI News65

    OpenAI 在 API 中推出 GPT-Live-1 语音模型

    OpenAI 在 API 中推出 GPT-Live-1,带来自然的全双工语音对话能力,并具备更强的指令遵循、自定义声音和电话(telephony)支持。

    推荐理由:原文点明了全双工语音、自定义声音和电话接入三项能力,读者可据此判断它对语音应用形态的影响。

9月9日周三
9月8日周二
9月5日周六
9月3日周四