OpenAI 发布 ChatGPT iOS 应用
OpenAI 发布 ChatGPT iOS 应用,官方介绍该应用可同步对话、支持语音输入,并把最新的模型改进带到移动端。
推荐理由:官方点明了同步、语音输入和最新模型三项能力,读者可据此判断移动端与网页端的差异。
OpenAI 发布 ChatGPT iOS 应用,官方介绍该应用可同步对话、支持语音输入,并把最新的模型改进带到移动端。
推荐理由:官方点明了同步、语音输入和最新模型三项能力,读者可据此判断移动端与网页端的差异。
Hugging Face 与 Intel 推出 Q8-Chat,基于 SmoothQuant 8-bit 量化技术让 LLM 在 Intel CPU 上高效运行,模型体积缩小约 2 倍且精度基本无损。
Hugging Face 官方博客宣布 RWKV 架构已通过 Pull Request 集成进 transformers 库,可通过源码安装或 main 分支使用,支持 pipeline 文本生成与 alpaca 风格的 RWKV-4 Raven 聊天模型调用,并提供 convert_rwkv_checkpoint_to_hf.py 脚本转换原始权重。
推荐理由:原文对比了 RWKV 与 Transformer、RNN 的取舍并给出可直接运行的代码,便于读者判断其适用场景。
OpenAI 用 GPT-4 自动为大语言模型中的神经元行为撰写解释并打分,并发布了 GPT-2 中每个神经元的解释与评分数据集(作者自述这些解释并不完美)。
Hugging Face 官方博客讲解如何把 BigCode 的 16B 参数开源代码模型 StarCoder 微调成对话式编码助手 StarChat。
推荐理由:完整给出从数据准备、ChatML 格式化到 DeepSpeed 训练与评测的可复现流程,适合想动手微调代码模型的读者。
Databricks 向 Hugging Face 代码库提交首个官方 commit,在 Datasets 中新增 `from_spark` 函数,可直接把 Spark dataframe 转成 Hugging Face dataset。
ChatGPT 用户现在可以关闭聊天历史,从而选择哪些对话可用于训练 OpenAI 的模型。
Hugging Face 与 AWS 合作,将 Hugging Face Transformers 针对 AWS Inferentia2 推理加速器进行优化,通过 optimum-neuron 一行代码即可编译模型,无需切分或修改。
Snorkel AI 与 Hugging Face 合作,通过 Hugging Face Inference Endpoint 服务让 Snorkel Flow 平台接入超过 150,000 个开源模型,帮助企业适配基础模型。
OpenAI 官方宣布已在 ChatGPT 中实现插件的初始支持。这些插件是专为大语言模型设计的工具,以安全为核心原则,可帮助 ChatGPT 获取最新信息、运行计算或调用第三方服务。
推荐理由:官方说明了插件的设计出发点,读者可据此理解 ChatGPT 如何接入实时信息与外部服务。
Hugging Face 宣布为 Hub 上托管的 Jupyter notebook 增加渲染支持,原本以 JSON 格式存储的 ipynb 文件现在会以人类可读的形式展示。
OpenAI 介绍了冰岛如何使用 GPT-4 来保存其语言。文章聚焦于 GPT-4 在冰岛语保护中的应用方式。
Be My Eyes 使用 GPT-4 改变视觉无障碍体验。
Stripe 利用 GPT-4 优化用户体验并打击欺诈。通过接入 GPT-4,Stripe 旨在简化用户使用流程,同时提升反欺诈能力。
GPT-4 深化了 Duolingo 上的对话体验,帮助填补语言学习中的关键空白。
Khan Academy 正在一项有限的试点项目中探索 GPT-4 用于虚拟教育的潜力。该项目聚焦 GPT-4 在课堂教学场景中的应用,目前处于小范围测试阶段。
Hugging Face 官方 Mac 应用 Swift Diffusers 1.1 上架 Mac App Store,将社区贡献的 SoTA 文生图模型转换为 Core ML 运行,文生图速度最高可提升至两倍,并自动为当前机型选择最佳加速器。
Hugging Face 博客介绍 Salesforce Research 的 BLIP-2 如何在冻结的图像编码器与 LLM 之间加入轻量 Querying Transformer(Q-Former),以更少可训练参数实现多任务 SOTA。
Hugging Face 推出 🤗 PEFT 库,与 🤗 Transformers 和 🤗 Accelerate 无缝集成,目前支持 LoRA、Prefix Tuning、P-Tuning v2、Prompt Tuning、P-Tuning 等方法。
推荐理由:原文给出了在消费级硬件上微调大模型的具体配置与产出体积对比,可直接迁移复用。
Hugging Face 宣布 SpeechT5 现已加入开源库 Transformers,官方 checkpoint 已在 Hub 上提供,并配有 TTS、语音转换和 ASR 的 Spaces 演示。
Hugging Face 推出开源工具 ⚔️ AI vs. AI ⚔️,通过让强化学习模型在多智能体对战中相互比拼,用 ELO 评分系统给出相对实力排名。该系统由 Spaces 上的匹配算法、存储比赛结果的 Dataset 和展示 ELO 的 Leaderboard 组成,新模型起始分为 1200。
OpenAI 宣布推出 ChatGPT 的试点订阅计划 ChatGPT Plus。ChatGPT 是一款对话式 AI,可以与用户聊天、回答后续问题并质疑不正确的假设。
OpenAI 推出一个经过训练的分类器,用于区分 AI 撰写的文本与人类撰写的文本。
Hugging Face transformers 开源库现已集成 Mask2Former 和 OneFormer 两个通用图像分割模型,可用统一架构完成实例、语义和全景分割三类任务。
百度开源深度学习平台 PaddlePaddle 正式加入 Hugging Face Hub,其模型库将逐步与 Hub 集成,Hub 上已有超过 75 个 PaddlePaddle 模型,可通过 PaddlePaddle 库标签筛选。
OpenAI 用 GPT-3 从客户反馈中快速提取细致洞察,帮助企业更快理解用户意见。
OpenAI 通过微调 GPT-3 来驱动并规模化"一站式"视频创作服务。
OpenAI 用 GPT-3 打造新一代 AI 驱动角色。原文仅简要说明以 GPT-3 为基础创建下一代 AI 角色,未给出更多技术细节或数据。
Hugging Face 推出 Model Card Creator Tool 和 Model Card Guide Book,前者提供图形界面,无需编程即可协作创建模型卡。同时更新了 huggingface_hub 库中的模型卡模板,提供默认提示文本,并附带带注释模板、Hugging Face 用户研究及 ML 文档现状的文献综述。
Hugging Face 用 🤗 Optimum Habana 对比了 Gaudi2、一代 Gaudi 与 Nvidia A100 80GB 的训练和推理性能,Gaudi2 在两项上均约快 2 倍。
Hugging Face 通过纯 Elixir 实现的 Bumblebee 库,将 GPT2 到 Stable Diffusion 等神经网络模型带入 Elixir 社区。
Hugging Face 与 arXiv 合作,Hugging Face Spaces 通过 arXivLabs 的 Demo 标签页集成到论文摘要页,用户可直接打开社区或作者构建的开源 demo。
Hugging Face 取消 Inference API 的付费层,该服务将对所有人免费开放,同时推出面向企业级推理的新服务 Inference Endpoints,并为 Spaces 增加硬件升级。
DALL·E API 今日起开启公开测试,开发者可以开始用它构建应用。
Hugging Face 宣布在 Optimum Intel 中加入 Intel OpenVINO,可直接用 OpenVINO Runtime 在各类 Intel 处理器上运行 Transformers 模型推理,并通过 NNCF 量化压缩模型体积与延迟。
Hugging Face 推出 Inference Endpoints,可从 Hugging Face hub 通过几次点击将模型部署到所选云厂商的托管基础设施上。
Hugging Face 在 Hub 上线 DOI 生成功能,注册用户可在 repo settings 中为模型或数据集申请 DOI,其他人点击页面上的 "Cite this model/dataset" 即可引用。
rinna Co., Ltd. 基于 Stable Diffusion 微调推出日语专用文生图模型 Japanese Stable Diffusion,可直接接受日语提示词,理解日语特有词汇、拟声词与专有名词,生成反映日语文化语境的图像。
Hugging Face 在 Hub 上推出 Evaluation on the Hub 零样本评测功能,由 AutoTrain 驱动,无需写代码即可评测任意因果语言模型,且升级后大模型可免费评测,目前支持最高 66 billion 参数模型。
DALL·E 现已取消等待名单,新用户可以直接开始创作。OpenAI 表示,部署过程中积累的经验以及安全系统的改进使更大范围的开放成为可能。