用 Inference Endpoints 快速部署 MusicGen
Hugging Face 通过 Inference Endpoints 的 custom handler 机制,让 MusicGen 这类没有现成 pipeline 的模型也能几点击部署上线。
Hugging Face 通过 Inference Endpoints 的 custom handler 机制,让 MusicGen 这类没有现成 pipeline 的模型也能几点击部署上线。
Hugging Face 推出 Agents.js 库,可通过 npm 安装(`@huggingface/agents`),在浏览器或 Node 端为 LLM 提供工具调用能力,内置多模态工具并支持自定义工具与模型。
OpenAI 宣布多项 API 更新,包括更具可控性的 API 模型、函数调用能力、更长上下文以及更低价格。
Hugging Face Unity API 让开发者在 Unity 项目中通过 Inference API 调用 Hugging Face 模型,安装时在 Package Manager 中添加 git URL 并在 API Wizard 填入 API key 即可。
OpenAI 官方宣布已在 ChatGPT 中实现插件的初始支持。这些插件是专为大语言模型设计的工具,以安全为核心原则,可帮助 ChatGPT 获取最新信息、运行计算或调用第三方服务。
推荐理由:官方说明了插件的设计出发点,读者可据此理解 ChatGPT 如何接入实时信息与外部服务。
Hugging Face 教程讲解如何用 Docker 和 Kubernetes 将上一篇的 ViT 本地部署扩展到生产环境,支持多用户访问。
Hugging Face 介绍了如何用 AutoNLP 和 Prodigy 搭建主动学习流水线:先用 Prodigy 对 BBC News Classification 数据集标注 NER 标签(PERSON、ORG、PRODUCT、LOCATION),再将标注数据转换为 AutoNLP 格式训练模型。
Hugging Face 认为机器学习应像普通 IT 负载一样被工程化管理,企业更应招聘懂 ML 的软件与 DevOps 工程师而非更多数据科学家。Kaggle 调查显示 75% 受访者使用云服务、超过 45% 使用企业级 ML 平台,Amazon SageMaker、Databricks 和 Azure ML Studio 排名前三。