ONNX Runtime 加速 Hugging Face 上超过 130,000 个模型
ONNX Runtime 已支持 Hugging Face 上超过 130,000 个 ONNX 模型,覆盖 90 多种模型架构,包括 BERT、GPT2、DistilBERT、Stable-Diffusion、Whisper 等 11 个最热门架构。以 whisper-tiny 为例,使用 ONNX Runtime 加速后,单次推理平均延迟相比 PyTorch 最高可降低 74.30%。
ONNX Runtime 已支持 Hugging Face 上超过 130,000 个 ONNX 模型,覆盖 90 多种模型架构,包括 BERT、GPT2、DistilBERT、Stable-Diffusion、Whisper 等 11 个最热门架构。以 whisper-tiny 为例,使用 ONNX Runtime 加速后,单次推理平均延迟相比 PyTorch 最高可降低 74.30%。
OpenAI 联合多家公司成立新行业组织 Frontier Model Forum,旨在推动前沿 AI 系统的安全与负责任发展。该组织将推进 AI 安全研究、识别最佳实践与标准,并促进政策制定者与行业之间的信息共享。
Hugging Face 与 Microsoft 合作,在 Azure Machine Learning Studio 内原生上线 Hugging Face Model Catalog,收录 Hugging Face Hub 上数千个热门 Transformers 模型,用户只需几次点击即可在托管端点上完成部署。
Hugging Face 宣布 SpeechT5 现已加入开源库 Transformers,官方 checkpoint 已在 Hub 上提供,并配有 TTS、语音转换和 ASR 的 Spaces 演示。
Hugging Face 与 Microsoft 的 ONNX Runtime 团队合作,通过 Optimum 库集成 ONNX Runtime 训练,可将许多 Hugging Face 模型的训练时间缩短 35% 以上。
OpenAI 宣布与 Microsoft 延长双方的合作关系。原文仅给出这一核心消息,未披露合作期限、投资金额或具体条款等更多细节。
VQ-Diffusion 是由中国科学技术大学与微软开发的条件隐空间扩散模型,其加噪与去噪过程在离散量化的隐空间上进行,与常见的连续扩散模型形成对比。
OpenAI 已同意将 GPT-3 技术授权给 Microsoft,供其用于自家产品和服务。
Microsoft 向 OpenAI 投资 10 亿美元,支持其构建具有广泛经济收益的人工通用智能(AGI)。双方将在 Microsoft Azure 内共同开发可扩展至 AGI 的软硬件平台,联合开发新的 Azure AI 超算技术,Microsoft 将成为 OpenAI 的独家云提供商。
推荐理由:官方公告点明投资金额与独家云合作方式,可据此理解早期AGI路线中算力绑定的战略选择。
OpenAI 宣布与 Microsoft 合作,开始在 Azure 上运行其大部分大规模实验。