Hugging Face Optimum Intel 集成 OpenVINO 加速模型推理与量化
Hugging Face 宣布在 Optimum Intel 中加入 Intel OpenVINO,可直接用 OpenVINO Runtime 在各类 Intel 处理器上运行 Transformers 模型推理,并通过 NNCF 量化压缩模型体积与延迟。
Hugging Face 宣布在 Optimum Intel 中加入 Intel OpenVINO,可直接用 OpenVINO Runtime 在各类 Intel 处理器上运行 Transformers 模型推理,并通过 NNCF 量化压缩模型体积与延迟。
Hugging Face 推出 MTEB 文本嵌入基准,涵盖 8 类任务、56 个数据集,榜单已汇总超过 2000 条结果,支持最多 112 种语言。
Hugging Face 推出 Inference Endpoints,可从 Hugging Face hub 通过几次点击将模型部署到所选云厂商的托管基础设施上。
Hugging Face 在 Hub 上线 DOI 生成功能,注册用户可在 repo settings 中为模型或数据集申请 DOI,其他人点击页面上的 "Cite this model/dataset" 即可引用。
rinna Co., Ltd. 基于 Stable Diffusion 微调推出日语专用文生图模型 Japanese Stable Diffusion,可直接接受日语提示词,理解日语特有词汇、拟声词与专有名词,生成反映日语文化语境的图像。
Hugging Face 在 Hub 上推出 Evaluation on the Hub 零样本评测功能,由 AutoTrain 驱动,无需写代码即可评测任意因果语言模型,且升级后大模型可免费评测,目前支持最高 66 billion 参数模型。
DALL·E 现已取消等待名单,新用户可以直接开始创作。OpenAI 表示,部署过程中积累的经验以及安全系统的改进使更大范围的开放成为可能。
Hugging Face AutoTrain 新增图像分类(Image Classification)任务,成为其首个计算机视觉能力,用户无需写代码即可上传数据、选择任务并自动训练模型。
Hugging Face 与 Intel Labs、UKP Lab 合作推出 SetFit,一个面向 Sentence Transformer 的高效少样本微调框架,无需提示词即可在少量标注数据上取得高准确率,例如在 Customer Reviews 情感数据集上每类仅 8 个标注样本即可与在 3k 全量样本上微调 RoBERTa Large 相竞争。
Hugging Face 官方博客介绍 diffusers 0.3 版本的新功能,包括 Image to Image pipeline、Textual Inversion。
DALL·E 推出 outpainting 功能,让用户可以扩展创作、生成任意尺寸的图像,从而讲述更完整的故事。
Hugging Face 推出新库 Skops,可将 scikit-learn 模型托管到 Hugging Face Hub,并自动生成 model card 文档。
OpenAI 推出全新的 Moderation endpoint 内容审核工具,改进了此前的内容过滤器,今日起向 OpenAI API 开发者免费开放。
Hugging Face 推出 Private Hub(PH),为机器学习开发提供从研究到生产的一体化工具集,以安全合规的方式加速 ML 生命周期各环节。Hugging Face Hub 提供超过 60K 模型、6K 数据集和 6K ML demo 应用,模型覆盖 180 种语言、支持最多 25 个 ML 库。
Hugging Face 为 🤗 Datasets 新增音频与图像数据集文档,Quickstart 更新了多模态端到端示例,并推出 to_tf_dataset 函数,可将数据集直接转为 tf.data.Dataset。
OpenAI 宣布 DALL·E 现已进入 beta 阶段,将在未来几周内从等候名单邀请 100 万人使用。用户可用每月自动补充的免费额度进行创作,也可以 15 美元购买 115 次生成的额外额度。
推荐理由:原文给出了开放节奏和定价细节,读者可据此判断其可用性与使用成本。
OpenAI 为 DALL·E 2 上线一项新技术,使其生成的人物图像更准确地反映世界人口的多样性。该技术旨在减少模型偏见并提升生成内容的安全性。
DALL·E 2 研究预览期间,来自 118 个以上国家的 3,000 多名艺术家已将 DALL·E 纳入创作工作流。早期访问群体的艺术家帮助 OpenAI 发现了 DALL·E 的新用途,并在 DALL·E 功能决策中提供了关键意见。
OpenAI 为 DALL·E 2 设置了多项防护措施,以降低强大图像生成模型带来的风险。这些护栏旨在防止生成的图像违反其内容政策,从而让更广泛的受众安全使用 DALL·E 2。
Hugging Face 发布由 AutoTrain 驱动的 Evaluation on the Hub,让用户无需写代码即可在 Hub 上对任意模型、任意数据集、任意指标进行评测。
Intel 正式加入 Hugging Face 的 Hardware Partner Program,双方基于 Optimum 开源库合作打造 Transformer 模型的训练、微调与推理硬件加速。
Graphcore 与 Hugging Face 将 Hugging Face Optimum 中可在 IPU 上运行的 Transformer 模型扩展至 10 个,覆盖 NLP、语音和计算机视觉,包括 ViT、GPT-2、RoBERTa、DeBERTa、BART、LXMERT、T5、HuBERT 和 Wav2Vec2。
Hugging Face 宣布在 Hub 上推出 Pull Requests 和 Discussions 两项协作功能,面向所有仓库类型(models、datasets、Spaces)的 Community 标签页开放,任何社区成员都可创建和参与。
OpenAI Codex 已通过 OpenAI API 为 70 个不同应用提供支持,覆盖多种使用场景。Codex 是 OpenAI 面向开发者的代码生成模型,开发者可经 API 调用将其集成进各类应用中。
DALL·E 2 研究预览更新:早期用户已创建超过 300 万张图片,并帮助改进了安全流程。OpenAI 将开始每周从等待名单中新增最多 1,000 名用户。
Gradio 官方宣布 Gradio 3.0 发布,这是对该库的彻底重设计,此前已有超过 600,000 个 ML demo 用 Gradio 构建。新版前端改用 Svelte 等现代技术,页面体积更小、加载更快,Dataframe 支持拖拽 CSV,新增 Gallery 组件和 TabbedInterface 类。
Hugging Face 发布 Optimum 1.2,新增对 Transformers pipelines 的推理支持,用户只需把 AutoModelForXxx 替换为 ORTModelForXxx 即可调用 ONNX Runtime 等加速运行时,代码与 Transformers API 完全兼容。
Hugging Face 宣布 fastai 实践者现在可以用一行 Python 将模型分享到 Hugging Face Hub,通过 `push_to_hub_fastai` 上传 Learner、`from_pretrained_fastai` 加载模型。
Hugging Face 通过 huggingface_hub 的 emissions_thresholds 参数和 transformers 的 codecarbon 集成,帮助用户追踪、报告并按碳排放筛选模型。
Hugging Face 宣布将离线强化学习方法 Decision Transformer 集成进 🤗 transformers 库和 Hugging Face Hub,并提供 9 个 Gym 环境连续控制任务的预训练模型 checkpoint。
OpenAI 在 API 中推出 embeddings 新端点,支持对自然语言和代码执行语义搜索、聚类、主题建模与分类等任务。该端点面向文本与代码两类数据,可直接通过 OpenAI API 调用。
Hugging Face 宣布将深度强化学习库 Stable-Baselines3 集成到 Hugging Face Hub,用户可通过 `huggingface_hub` 和 `huggingface_sb3` 两个库上传保存的模型并从社区加载模型。
Hugging Face Infinity 在 Amazon EC2 C6i(第 3 代 Intel Xeon)上运行 DistilBERT 序列分类任务,相比 cascade-lake 实例延迟与吞吐最高提升 34%,相比 ice-lake 上的 vanilla transformers 最高提升 800%。
Hugging Face 官方宣布将 DeepMind 的 Perceiver IO 加入 Transformers 库,这是首个可处理文本、图像、音频、视频、点云等各类模态及其组合的 Transformer 架构模型。
OpenAI 提供 GPT-3 微调功能,只需一条命令即可完成微调,让开发者针对自己的应用场景定制模型。
Hugging Face 发布首个基于 Unity ML-Agents 的自定义深度强化学习环境 Snowball Fight 1vs1,玩家可在线与深度强化学习 agent 对战,游戏托管于 Hugging Face Spaces。
Hugging Face 发布开源 Python 库与无代码界面 Data Measurements Tool(DMT),基于 Dataset 和 Spaces Hubs 配合 Streamlit 构建,可在线构建、度量和比较数据集。
OpenAI 宣布其 API 现已无需等待名单即可使用,开放范围更广,官方表示这一变化得益于安全方面的进展。
Hugging Face 推出开源库 Optimum,旨在为 Transformers 提供生产性能优化工具包,与硬件合作伙伴(如 Intel)协作,让工程师在特定硬件上高效训练和运行模型。
Hugging Face 在 2021 AI Hardware Summit 上宣布启动 Hardware Partner Program,Graphcore 作为创始成员加入,双方将通过开源工具库 Optimum 提供针对 Graphcore IPU 优化的模型,首批 IPU 优化模型将于当年晚些时候上线。