在 Google Cloud Vertex AI 上部署 Meta Llama 3.1 405B
Hugging Face 教你在 Google Cloud Vertex AI 上部署 Meta Llama 3.1 405B：用 Text Generation Inference (TGI) 和 Hugging Face Deep Learning Containers。
#Meta
Hugging Face BlogAI 评分4444
Hugging Face Blog精选AI 评分9393 Hugging Face 官方介绍 Llama 3.1 系列模型及生态集成
Hugging Face 与 Meta 合作将 Llama 3.1 系列集成到其生态，Hub 上提供 8 个开放权重模型（3 个 base 和 5 个微调版本），涵盖 8B、70B、405B 三种尺寸，均支持 128K 上下文窗口和 8 种语言，并新增工具调用能力与更宽松的许可（允许用模型输出改进其他 LLM）。
推荐理由：详细列出三种尺寸的显存需求与量化方案，读者可据此判断自己硬件能否跑起来。
Hugging Face Blog精选AI 评分8888 Hugging Face 完整集成 Meta Llama 3 开源模型
Meta 发布开源 Llama 3 系列，包含 8B 和 70B 两种参数规模的 base 与 instruct 共 4 个模型，以及基于 Llama 3 8B 微调的 Llama Guard 2，全部已上线 Hugging Face Hub。
推荐理由：原文梳理了 Llama 3 的技术变化与生态集成入口，读者可据此判断如何在自己的工作流中使用它。
Hugging Face BlogAI 评分2828 在 Intel® Gaudi® 2 AI 加速器上运行 Llama 2 文本生成 Pipeline
Hugging Face 展示了如何用 Optimum Habana 的自定义 GaudiTextGenerationPipeline 在 Intel® Gaudi® 2 上以几行代码运行 Llama 2（7b、13b、70b）文本生成，涵盖预处理与后处理。
Hugging Face BlogAI 评分4747 用 🤗 Optimum Intel 在 Xeon 上加速 StarCoder：Q8/Q4 与投机解码
Hugging Face 在 Intel 第 4 代 Xeon 上通过 8bit/4bit 量化与投机解码（assisted generation）将 StarCoder-15B 推理加速 7 倍以上。
Hugging Face BlogAI 评分4444 Llama 2 在 Amazon SageMaker 上的部署基准测试
Hugging Face 测试了 Llama 2 7B、13B、70B 在 Amazon SageMaker 上 60 多种部署配置的延迟与吞吐表现，覆盖 g5.2xlarge、g5.12xlarge、g5.48xlarge、p4d.24xlarge 四种实例与 1、5、10、20 并发请求。
Hugging Face BlogAI 评分5555 Hugging Face 教程：用 PyTorch FSDP 微调 Llama 2 70B
Hugging Face 官方博客给出用 PyTorch FSDP、Transformers、Accelerate 和 TRL 在多机多卡环境微调 Llama 2 70B 的完整实践，训练约 13.5 小时完成。
Hugging Face Blog精选AI 评分7878 Hugging Face 集成 Code Llama 模型家族
Hugging Face 宣布在自身生态中集成 Meta 的 Code Llama 模型家族，包含 7B、13B、34B 三种参数规模，以及 Python 专精版和指令微调版，采用与 Llama 2 相同的宽松社区许可并可商用。
推荐理由：原文给出模型规格、上下文窗口扩展方法和多语言榜单成绩，便于评估其在代码任务上的定位。
Hugging Face Blog精选AI 评分8888 Hugging Face 全面支持 Meta Llama 2 发布并提供推理与微调指南
Meta 发布 Llama 2 系列开放大语言模型，Hugging Face 完成生态集成，Hub 上提供 12 个开放模型（3 个基础模型与 3 个微调模型及对应 transformers 版本），采用宽松社区许可并支持商用。
推荐理由：文章给出从推理部署到单卡微调的完整路径，可直接迁移用于自己的 Llama 2 实践。
Hugging Face BlogAI 评分4949 Hugging Face 开源文本生成与 LLM 生态概览
Hugging Face 盘点了其开源文本生成与 LLM 生态，涵盖 Llama 2、MPT-30B、XGen、Falcon、FLAN-T5、BLOOM 和 StarCoder 等模型。
Hugging Face BlogAI 评分3838 fastText 加入 Hugging Face Hub
Hugging Face 与 Meta AI 合作，将 fastText 的官方镜像托管到 Hub，包括全部 157 种语言的词向量和最新的语言识别模型，用户可用几条命令下载使用。
Hugging Face BlogAI 评分4545 🤗 Transformers 如何用 Wav2Vec2 处理超长音频的自动语音识别
Hugging Face 介绍了在 🤗 Transformers 中利用 Wav2Vec2 的 CTC 架构特性，实现超长文件乃至实时流式自动语音识别（ASR）的方法。