Hugging Face 推出 Deploy on Cloudflare Workers AI:开源模型的 serverless GPU 推理
Hugging Face 与 Cloudflare 联合推出 Deploy on Cloudflare Workers AI 集成,让开发者无需管理 GPU 基础设施即可通过 serverless API 调用热门开源模型,按请求付费。
Hugging Face 与 Cloudflare 联合推出 Deploy on Cloudflare Workers AI 集成,让开发者无需管理 GPU 基础设施即可通过 serverless API 调用热门开源模型,按请求付费。
Oscar 将 AI 引入健康保险,以降低保险成本并改善患者护理。原文仅简要说明了这一方向,未披露具体模型、性能数据或价格细节。
OpenAI 宣布让用户无需注册即可直接开始使用 ChatGPT,以降低体验 AI 的门槛。
Zelma 使用 GPT-4 让教育数据更易获取。
Pollen Robotics 开源了 pollen-vision 库,为机器人提供零样本视觉模型的统一接口,首版聚焦 3D 物体检测,输出物体在 3D 空间的 (x, y, z) 坐标,无需训练即可开箱使用。
OpenAI 正与艺术家合作,探索 Sora 如何融入创作流程。自上月向全球介绍 Sora 以来,OpenAI 一直在与艺术家合作,了解 Sora 如何帮助他们的创作过程。
JetBrains 使用 OpenAI 的 API 打造了其史上增长最快的产品。文章介绍了 OpenAI 如何将 AI 能力嵌入开发者软件的实践案例。
Lighthouz AI 与 Hugging Face 联合推出 Chatbot Guardrails Arena,让用户与两个匿名 LLM 对话,尝试套取虚构银行 XYZ001 的客户敏感财务信息,再投票选出隐私保护更好的一方。
Hugging Face 发布 Cosmopedia,一个用 Mixtral-8x7B-Instruct-v0.1 生成、含超 3000 万文件和 25 billion tokens 的合成数据集,用于从零预训练大语言模型,目标是复现 Phi-1.5 的训练数据。
推荐理由:原文拆解了从几千到千万级样本的提示词工程方法,可迁移给要做大规模预训练数据的团队。
Superhuman 借助 OpenAI 开启邮件新体验。
Holiday Extras 在所有团队全面部署 ChatGPT Enterprise,每周提升 500 小时生产力。
Hugging Face 宣布推出 Train on DGX Cloud 服务,面向 Enterprise Hub 组织,可在 Hub 内通过几次点击使用 NVIDIA H100 微调 Llama、Mistral、Stable Diffusion 等模型,由 AutoTrain 和 Spaces 提供无代码训练体验。
Hugging Face 发布 quanto,一个面向 Optimum 的 PyTorch 量化后端,支持 int2、int4、int8、float8 权重与 int8、float8 激活,可在 CUDA、CPU、MPS 任意设备上运行,并提供从浮点模型到动态/静态量化模型的完整工作流。
Healthify 与 OpenAI 合作,借助 AI 健康教练帮助用户实现可持续减重,改善数百万人的健康状况。
Match Group 使用 ChatGPT Enterprise 激发创意并扩大业务影响力。
Lifespan 使用 GPT-4 大幅提升健康素养与患者治疗效果。
Paradigm 使用 OpenAI 的 API 改善患者获取临床试验的机会。
Argilla 与 Hugging Face 联合发起 Data is Better Together 实验,几天内吸引 350 名社区贡献者标注出超过 11,000 条 prompt 评分,并发布数据集 10k_prompts_ranked(含 10,000 条带用户评分的 prompt)。
Hugging Face 推出 TTS Arena,一个让用户提交文本、盲听两个 TTS 模型合成语音并投票的众包评测平台,结果将汇总为排行榜。该平台采用类似 LMSys Chatbot Arena 的 Elo 评分系统,投票前不显示模型名以防偏见。首发模型包括 ElevenLabs、MetaVoice、OpenVoice、Pheme、WhisperSpeech 和 XTTS,涵盖开源与闭源。
Mistral AI 发布新的对话助手 le Chat Mistral,作为展示 Mistral 模型能力与企业部署的首个示例。Le Chat 可调用 Mistral Large、Mistral Small 或原型模型 Mistral Next,内置可调节的系统级审核机制,会在对话可能涉及敏感内容时非侵入式提醒。
Haize Labs 在 Hugging Face 团队支持下推出 Red Teaming Resistance Benchmark,用 AdvBench、Beavertails、Do Not Answer 等多个红队数据集中的高质量人类越狱提示词,系统测试前沿 LLM 在极端红队攻击下的鲁棒性。
Upstage 于 2023 年 9 月发起 Open Ko-LLM Leaderboard,构建韩语 LLM 评测生态,采用 Ko-ARC、Ko-HellaSwag、Ko-MMLU、Ko-Truthful QA、Ko-CommonGEN V2 五项评测任务,并以私有测试集防止数据污染。
Hugging Face 在 🤗 PEFT 中发布了面向 LoRA 适配器的新合并方法,包括 cat、linear、svd、ties、dare、magnitude_prune 等多种 combination_type,可通过 add_weighted_adapter() 调用。
OpenAI 发布视频生成模型 Sora,可在文本条件下生成一分钟高保真视频。该模型基于在视频与图像潜码的时空 patch 上运行的 Transformer 架构,对不同时长、分辨率和宽高比的视频与图像联合训练,其结果表明扩大视频生成模型规模是构建物理世界通用模拟器的可行路径。
推荐理由:原文点明扩大视频生成规模是通向物理世界通用模拟器的路径,提供了技术路线的关键判断。
OpenAI 官方宣布正在测试 ChatGPT 的记忆能力,使其能记住用户讨论过的内容,从而让后续对话更有帮助;用户可以掌控 ChatGPT 的记忆。
Hugging Face 为 Text Generation Inference(TGI)1.4.0 和 Inference Endpoints 推出 Messages API。
Segmind 发布 SegMoE 框架,用于从零构建 Mixture-of-Experts 扩散模型,并已集成进 Hugging Face 生态、支持 diffusers。
Hugging Face 宣布 Text Generation Inference (TGI) 正式在 AWS Inferentia2 和 Amazon SageMaker 上可用,为生产级 LLM 部署提供 GPU 之外的可行替代方案。
Patronus 团队联合 Hugging Face 推出 Enterprise Scenarios Leaderboard,基于 Hugging Face Leaderboard Template 构建。
Hugging Face 推出 Hallucinations Leaderboard,一个通过 in-context learning 评测大语言模型幻觉的开放持续项目,已发布 arXiv 论文。
Hugging Face 联合 Secure Learning Lab 发布 LLM Safety Leaderboard,基于 2023 年获 NeurIPS 2023 杰出论文奖的 DecodingTrust 平台,使用 HF leaderboard 模板对大模型进行安全评测。
IBM Research 与 Hugging Face 合作,将轻量级时序模型 PatchTSMixer 开源并集成进 Transformers 库,支持在 patches、通道和隐藏特征上进行轻量混合,以及 gated attention 到 self-attention 等多种注意力机制。
Digital Green 使用 OpenAI 构建农业数据库,帮助农民提高收入。
OpenAI 推出新的 ChatGPT Team 计划,面向各种规模的团队,提供一个安全的协作工作区,帮助团队在工作中更好地使用 ChatGPT。
OpenAI 官方宣布推出 GPT Store。
WHOOP 用 GPT-4 为用户提供个性化健身和健康教练服务。
Summer Health 借助 OpenAI 重新设计儿科医生就诊流程,提升儿科就诊记录的准确性。
Mistral AI 宣布开放其首个平台服务 la Plateforme 的 beta 访问,提供 mistral-tiny、mistral-small、mistral-medium 三个文本生成端点和 Mistral-embed embedding 端点。
Intel Labs 与 Hugging Face 推出 SetFitABSA,一个用于少样本训练领域专用方面级情感分析(ABSA)模型的框架,在少样本场景下表现可与 Llama2、T5 等生成式模型竞争甚至超越。
Hugging Face 宣布 Transformers 模型和任务现已可在 AMD Instinct GPU 上免改代码运行,并在 Text Generation Inference(TGI)中加入对 AMD Instinct MI210 和 MI250 的初始支持。