Hugging Face Inference Endpoints 支持在 AWS Inferentia2 上部署模型

Hugging Face 宣布 Inference Endpoints 新增 Inferentia2 实例，用户可在 Hub 上几次点击即可部署模型，同时将 SageMaker 上的 Inferentia2 部署扩展到超过 100,000 个公开模型，新增 14 种模型架构和 6 类任务。