跳到正文
原文
Hugging Face Blog·· 2024-07-23精选AI 评分93

Hugging Face 官方介绍 Llama 3.1 系列模型及生态集成

Llama 3.1 - 405B, 70B & 8B with multilinguality and long context

AI 导读

Hugging Face 与 Meta 合作将 Llama 3.1 系列集成到其生态,Hub 上提供 8 个开放权重模型(3 个 base 和 5 个微调版本),涵盖 8B、70B、405B 三种尺寸,均支持 128K 上下文窗口和 8 种语言,并新增工具调用能力与更宽松的许可(允许用模型输出改进其他 LLM)。

推荐理由

详细列出三种尺寸的显存需求与量化方案,读者可据此判断自己硬件能否跑起来。

来源:Hugging Face Blog · huggingface.co