跳到正文
2024年1月12日周五
2024年1月10日周三
2024年1月4日周四
2023年12月14日周四
2023年12月11日周一
2023年12月6日周三
2023年12月5日周二
2023年11月9日周四
2023年11月7日周二
2023年11月6日周一
2023年11月3日周五
2023年10月19日周四
2023年10月11日周三
2023年10月4日周三
2023年10月3日周二
2023年9月25日周一
2023年9月22日周五
2023年9月19日周二
2023年9月11日周一
2023年9月8日周五
2023年8月31日周四
2023年8月28日周一
2023年8月25日周五
  1. Hugging Face Blog78

    Hugging Face 集成 Code Llama 模型家族

    Hugging Face 宣布在自身生态中集成 Meta 的 Code Llama 模型家族,包含 7B、13B、34B 三种参数规模,以及 Python 专精版和指令微调版,采用与 Llama 2 相同的宽松社区许可并可商用。

    推荐理由:原文给出模型规格、上下文窗口扩展方法和多语言榜单成绩,便于评估其在代码任务上的定位。

2023年8月24日周四
2023年8月23日周三
  1. Hugging Face Blog64

    Hugging Face 将 AutoGPTQ 集成进 Transformers,支持 8/4/3/2-bit 量化

    Hugging Face 宣布将 AutoGPTQ 库集成进 Transformers,用户可用 GPTQ 算法把模型量化到 8、4、3 甚至 2-bit 精度运行,4-bit 量化精度损失可忽略,小 batch 下推理速度接近 fp16 基线,同时支持 Nvidia 与 RoCm AMD GPU。

    推荐理由:原文给出了量化位宽、显存与延迟的实测对比,读者可据此判断能否在自己的 GPU 上跑起大模型。

2023年8月22日周二
2023年8月15日周二
2023年8月10日周四
2023年8月8日周二
2023年8月1日周二
2023年7月27日周四
  1. Hugging Face Blog61

    Hugging Face 与 Apple 推出 Stable Diffusion XL 的 Core ML 版本与混合位调色板压缩

    Hugging Face 与 Apple 合作将 Stable Diffusion XL 移植到 Core ML,发布了 apple/coreml-stable-diffusion-xl-base 完整流水线和 apple/coreml-stable-diffusion-mixed-bit-palettization 版本。

    推荐理由:原文给出混合位调色板压缩的逐层比特分配方法与实测体积数据,读者可迁移到自己的 Core ML 模型压缩上。

2023年7月24日周一
2023年7月20日周四