OpenAI API 推出 Prompt Caching 自动折扣
OpenAI 在 API 中推出 Prompt Caching,对模型近期已处理过的输入自动提供折扣,降低重复输入的调用成本。
推荐理由:说明了缓存如何自动降低近期已见输入的成本,读者可据此判断调用开销的变化。
OpenAI 在 API 中推出 Prompt Caching,对模型近期已处理过的输入自动提供折扣,降低重复输入的调用成本。
推荐理由:说明了缓存如何自动降低近期已见输入的成本,读者可据此判断调用开销的变化。
OpenAI 在 API 中推出模型蒸馏功能,允许用户用大型前沿模型的输出来微调一个高性价比模型,整个流程都在 OpenAI 平台上完成。
Altera 使用 GPT-4o 构建了一个全新的人类协作领域。该项目以 GPT-4o 为核心模型,探索 agent 与人类协作的新形式。
OpenAI 发布指南,介绍如何用 AI 自动化并扩展财务运营流程。内容围绕财务场景中 AI 的落地方式展开,帮助团队把 AI 应用到实际业务中。
OpenAI 基于 GPT-4o 推出新的多模态审核模型并升级 Moderation API,可更准确地检测有害文本和图像,帮助开发者构建更稳健的审核系统。
明尼苏达州企业翻译办公室(Enterprise Translation Office)使用 ChatGPT 弥合语言鸿沟,为州内多语言服务提供翻译支持。
Mercado Libre 推出由 GPT-4o 驱动的 AI 开发者平台 Verdi。
Genmab 推出 "AI Everywhere" 计划,采用 ChatGPT Enterprise,由 OpenAI 对安全与隐私的承诺提供支持。
OpenAI 与巴西教育机构合作,探索用 GPT-4 改善教学与学习。原文仅给出这一核心方向,未披露具体试点规模、参与学校数量或效果数据。
Hugging Face 宣布在 Hub 的数据集页面上线 SQL Console,点击数据集上的 SQL Console 徽章即可在浏览器中直接对数据集运行 SQL 查询。
HuggingChat 发布 Community Tools,可把 Hugging Face 上的任意公开 Space 变成模型可直接调用的工具,同时扩展了图像理解、视频生成和文本转语音等模态。文中给出把 Space 转成工具的字段填写方法、用 Gradio 自建骰子工具的示例、在助手中最多添加 3 个工具的用法,以及一个可复制的 RAG 工具;该功能目前仍处实验阶段。
Hugging Face 官方发布 Accelerate 1.0.0 的首个 release candidate,补齐了 FP8 支持(MS-AMP 与 TransformersEngine)。
遗传学家 Catherine Brownstein 演示了如何用 OpenAI o1 加速诊断罕见医学难题的流程。
Ada 借助 GPT-4 打造新的客户服务标准。原文仅简要说明 Ada 使用 GPT-4 来交付这一新标准,未提供更多细节。
Hugging Face 宣布与 Truffle Security 合作,将开源工具 TruffleHog 的密钥扫描能力集成到平台,其自动化扫描流水线现包含恶意软件、pickle 和密钥三类扫描,检测到已验证密钥会通过邮件通知用户。
Arizona State University 全校采用 ChatGPT,用于个性化学习、推进研究并帮助学生为未来做准备。
OpenAI 举办 GPT-4o 微调(Fine-tuning)网络研讨会,介绍如何对 GPT-4o 进行微调。
Hugging Face Transformers 新增 DataCollatorWithFlattening,使无 padding 的打包式指令微调训练兼容 Flash Attention 2,通过 flash_attn_varlen_func 计算 cu_seqlens 并保留序列边界,避免跨样本注意力影响收敛。
Upwork 将 AI 应用于团队协作、运营和产品开发,把成员、流程与产品工作统一起来。原文未给出具体模型名称、参数规模或 benchmark 数据,仅说明 AI 在 Upwork 内部的落地场景。
OpenAI 宣布 GPT-4o 现已支持微调(fine-tuning)。
Indeed 与 OpenAI 合作,为每月超 350 million unique visitors 的求职者提供上下文职位匹配。Indeed 每月连接 3.5 million employers 和超 32 million jobs,每三秒就有一人在 Indeed 获得工作。
OpenAI 与 The Met 服装学院合作的「Sleeping Beauties: Reawakening Fashion」展览,展示了 AI 通过美与创造力丰富生活的艺术潜力。
Hugging Face 在 Transformers 中推出跨模型统一的工具调用 API,同一份代码可在 Mistral、Cohere、NousResearch、Llama 等模型间移植,几乎无需模型特定改动,并配套辅助功能与完整文档示例。
推荐理由:文章给出统一工具调用 API 的设计取舍与完整可运行示例,读者可直接迁移方法到自己的项目中。
OpenAI 分享了员工使用 ChatGPT Enterprise 高效分析数据、挖掘洞察的实用案例。
Rakuten 将自有数据与 OpenAI 的 API 结合,挖掘客户洞察并释放商业价值。文章介绍了这一数据与 AI 配对的做法如何帮助 Rakuten 更好地理解客户需求、提升客户价值。
Mistral AI 宣布在 La Plateforme 上可对 Mistral Large 2、Codestral 等旗舰和专用模型进行定制,支持 base prompt、few-shot prompting 或 fine-tuning,并可自带数据集。
OpenAI 在 API 中推出 Structured Outputs,模型输出现在能够可靠地遵循开发者提供的 JSON Schema。
Hugging Face 盘点了截至 2024 年 8 月 6 日 Hub 上的安全功能,分为面向所有用户的默认功能与 Enterprise Hub 高级控制两部分。
Hugging Face 推出 NVIDIA NIM API(serverless)无服务器推理服务,面向 Enterprise Hub 组织,基于 NVIDIA DGX Cloud 提供 Llama、Mistral 等开源模型的推理 API,兼容 OpenAI SDK,按计算时间计费(H100 GPU $8.25/小时)。
OpenAI 宣布正在测试 SearchGPT,这是一个临时原型,提供快速及时的答案,并附带清晰、相关的来源。
Hugging Face 官方博客宣布 TGI 新增 Multi-LoRA serving 功能,可在单次部署一个基座模型(如 mistralai/Mistral-7B-v0.1)后,根据请求携带的 adapter_id 动态选择对应 LoRA adapter,实现一次部署服务多个微调模型。
Hugging Face 发布 Docmatix 数据集,包含 240 万张图像、950 万组问答对,来自 130 万份 PDF 文档,规模是此前 DocVQA 数据集的 240 倍。
OpenAI 为 ChatGPT Enterprise 推出新的合规与管理工具,包括 Compliance API 集成、SCIM 和 GPT 控制项,用于支持企业的合规计划、数据安全与大规模用户访问管理。
Hugging Face 在 Dataset Hub 上试验新功能,用开源 PII 检测工具 Presidio 为数据集生成 PII 存在情况的估算报告,帮助 ML 从业者在训练前判断数据集是否含敏感个人信息。
Hugging Face 与 KerasHub 宣布 Transformers 与 KerasHub 共享模型保存格式,KerasHub 用户现在可以用一行代码直接加载 Hugging Face Hub 上 300K+ 的 Transformers 模型,首批支持 Gemma 1 和 2、Llama 3、PaliGemma。
Hugging Face 宣布 Inference Endpoints 和 Spaces 自当日起支持 Google TPU v5e,用户可在 us-west1 区域选择三档配置。
Hugging Face 为 Dataset Hub 上的 Dataset Search 推出四项新功能:按数据模态(Text/Image/Audio/Tabular/Time-Series/3D/Video/Geospatial)。
Hugging Face 用基于 Transformers Agents 库构建的 ReactCodeAgent 参加 GAIA 基准,验证集取得 44.2%,在公开榜总榜排名第一,比第二名高 4 个百分点;测试集取得 33.3%,排名第二,超过 Microsoft Autogen 的提交,并在最难的 Level 3 问题上取得最佳平均分。
XLSCOUT 推出面向专利与 IP 的专有 Embedding 模型 ParaEmbed 2.0,准确率较 2023 年 10 月发布的 ParaEmbed 1.0 提升 23%。
Paf 在全公司部署 ChatGPT Enterprise,工程师每天使用自定义 GPT 加速常规开发任务,并将其集成进 grit:lab 编程学院(gritlab.ax)用于培养新一代软件开发者。Paf 有 70% 的员工在财务、HR、市场和客服等业务团队中活跃使用 ChatGPT Enterprise。