跳到正文
2023年9月13日周三
2023年9月12日周二
2023年9月11日周一
2023年9月8日周五
2023年9月6日周三
  1. Hugging Face Blog76

    Hugging Face 迎来 TII 的 Falcon 180B 开源模型

    Hugging Face 官方博客宣布 TII 的 Falcon 180B 加入 HuggingFace 生态,这是当时最大的公开可用语言模型,拥有 180B 参数、在 RefinedWeb 数据集上训练 3.5 trillion tokens,是开源模型中最长的单轮预训练。

    推荐理由:文章给出了硬件需求和量化实测,读者可据此评估自己能否跑起这个 180B 模型。

2023年9月1日周五
2023年8月30日周三
2023年8月25日周五
  1. Hugging Face Blog78

    Hugging Face 集成 Code Llama 模型家族

    Hugging Face 宣布在自身生态中集成 Meta 的 Code Llama 模型家族,包含 7B、13B、34B 三种参数规模,以及 Python 专精版和指令微调版,采用与 Llama 2 相同的宽松社区许可并可商用。

    推荐理由:原文给出模型规格、上下文窗口扩展方法和多语言榜单成绩,便于评估其在代码任务上的定位。

  2. Hugging Face Blog40

    Hugging Face 停止支持 Git 密码认证

    Hugging Face 将于 10 月 1 日起停止接受密码作为 Git 命令行操作的认证方式,用户需改用 personal access token 或 SSH key。token 与 SSH key 具备唯一、可撤销、随机等特性,安全性优于传统密码。依赖密码认证的用户会收到邮件提醒,需在 10 月 1 日前完成切换。

2023年8月23日周三
  1. Hugging Face Blog64

    Hugging Face 将 AutoGPTQ 集成进 Transformers,支持 8/4/3/2-bit 量化

    Hugging Face 宣布将 AutoGPTQ 库集成进 Transformers,用户可用 GPTQ 算法把模型量化到 8、4、3 甚至 2-bit 精度运行,4-bit 量化精度损失可忽略,小 batch 下推理速度接近 fp16 基线,同时支持 Nvidia 与 RoCm AMD GPU。

    推荐理由:原文给出了量化位宽、显存与延迟的实测对比,读者可据此判断能否在自己的 GPU 上跑起大模型。

2023年8月22日周二
  1. Hugging Face Blog64

    Hugging Face 开源发布多模态模型 IDEFICS

    Hugging Face 发布开放获取的视觉语言模型 IDEFICS,作为 DeepMind 未公开的 Flamingo 的开放复现,可接受任意图像与文本序列输入并生成文本输出。

    推荐理由:原文交代了复现所用的公开数据与模型组件,读者可据此理解开放复现闭源模型的具体路径。

2023年8月10日周四
2023年8月9日周三
2023年8月8日周二
2023年8月4日周五
2023年8月2日周三
2023年7月27日周四
  1. Hugging Face Blog61

    Hugging Face 与 Apple 推出 Stable Diffusion XL 的 Core ML 版本与混合位调色板压缩

    Hugging Face 与 Apple 合作将 Stable Diffusion XL 移植到 Core ML,发布了 apple/coreml-stable-diffusion-xl-base 完整流水线和 apple/coreml-stable-diffusion-mixed-bit-palettization 版本。

    推荐理由:原文给出混合位调色板压缩的逐层比特分配方法与实测体积数据,读者可迁移到自己的 Core ML 模型压缩上。

2023年7月24日周一
  1. Hugging Face Blog46

    Hugging Face 联合多家组织就 EU AI Act 提出五项开放 ML 政策建议

    Hugging Face 联合 Creative Commons、Eleuther AI、GitHub、LAION 和 Open Future 发布立场文件,就 EU AI Act 提出五项建议,包括明确定义 AI 组件、澄清开源协作开发不受法案要求约束、支持 AI Office 与开源生态协作、确保 R&D 例外切实可行,以及为"基础模型"设置比例适当的要求。

2023年7月21日周五
2023年7月20日周四
2023年7月18日周二
  1. Hugging Face Blog88

    Hugging Face 全面支持 Meta Llama 2 发布并提供推理与微调指南

    Meta 发布 Llama 2 系列开放大语言模型,Hugging Face 完成生态集成,Hub 上提供 12 个开放模型(3 个基础模型与 3 个微调模型及对应 transformers 版本),采用宽松社区许可并支持商用。

    推荐理由:文章给出从推理部署到单卡微调的完整路径,可直接迁移用于自己的 Llama 2 实践。

2023年7月17日周一
2023年7月14日周五
2023年7月5日周三
2023年7月4日周二
2023年7月3日周一
2023年7月1日周六
2023年6月29日周四
2023年6月26日周一
2023年6月23日周五
2023年6月22日周四
2023年6月20日周二
2023年6月19日周一
2023年6月16日周五
2023年6月15日周四