Hugging Face 发布 Optimum-NVIDIA 推理库，单行代码改动提速 LLM 推理
Hugging Face 发布 Optimum-NVIDIA 推理库，只需把 transformers 的 pipeline 导入改成 optimum.nvidia 即可获得最高 28x 吞吐提升和 1,200 tokens/second 的推理速度。
全部 AI 动态
Hugging Face BlogAI 评分5555 Hugging Face BlogAI 评分5656 Hugging Face 让 LoRA 推理提速 300%，冷启动从 25s 降到 3s
Hugging Face 在 Inference API 中实现 LoRA 动态加载，保持 Stable Diffusion 基础模型常驻热态、按请求切换适配器，把预热时间从 25s 降到 3s，用户响应时间从 35s 降到 13s，用不到 5 张 A10G 即可服务数百个不同 LoRA。
Hugging Face Blog精选AI 评分7474 Hugging Face 发布 LCM LoRA，让 SDXL 4 步完成图像生成
Hugging Face 官方博客宣布推出 Latent Consistency LoRAs（LCM LoRA），通过只训练少量 LoRA 适配器而非完整蒸馏模型，让 Stable Diffusion 和 SDXL 以 4 步完成推理，替代原本的 25 到 50 步。
推荐理由：给出了各硬件的实测耗时对比，读者可据此判断自己设备上能否跑近实时生成。
Hugging Face BlogAI 评分3838 Prodigy-HF 发布：Prodigy 与 Hugging Face 直接集成
Explosion 上周推出 Prodigy-HF 插件，通过 hf.train.ner 和 hf.train.textcat 等 recipe 让用户直接在 Prodigy 标注数据上微调 Hugging Face 模型（如 distilbert-base-uncased），并可用 hf.correct.ner 复用模型辅助标注。
OpenAI News精选AI 评分8888 OpenAI 推出 GPTs：可自定义指令、知识与技能的 ChatGPT
OpenAI 推出 GPTs，用户可以创建自定义版本的 ChatGPT，将指令、额外知识以及任意组合的技能结合在一起。
推荐理由：原文点明了自定义 ChatGPT 的构成要素，读者可据此理解它与普通对话的差别。
Hugging Face BlogAI 评分3838 Hugging Face Hub 推出 Storage Regions 存储区域功能
Hugging Face 为 Enterprise Hub 计划推出 Storage Regions 功能，允许组织选择模型和数据集的存储位置，目前支持 US 和 EU，Asia-Pacific 即将推出。
OpenAI NewsAI 评分5555 DALL·E 3 在 ChatGPT Plus 和 Enterprise 中上线
OpenAI 宣布 DALL·E 3 现已在 ChatGPT Plus 和 Enterprise 中可用，并表示为面向更广泛发布准备 DALL·E 3 构建了一套安全缓解体系，同时分享了来源研究（provenance research）的更新。
Hugging Face BlogAI 评分5555 Hugging Face 推出 Gradio-lite，让 Gradio 应用纯浏览器运行
Hugging Face 发布 JavaScript 库 @gradio/lite，借助 Pyodide 让 Gradio 应用直接在浏览器中运行，无需服务器端基础设施。
OpenAI NewsAI 评分1818 Retool 用 GPT-4 帮企业快速构建 AI 应用
Retool 使用 GPT-4 为企业提供快速、安全的 AI 应用构建方式。
OpenAI NewsAI 评分1313 Ironclad 用 GPT-4 简化合同审查流程
Ironclad 使用 GPT-4 简化合同审查流程。
OpenAI NewsAI 评分2222 Typeform 用 GPT-3.5 和 GPT-4 将在线表单升级为动态数据收集
Typeform 借助 GPT-3.5 和 GPT-4 将在线表单升级为动态、对话式的数据收集体验。
Hugging Face BlogAI 评分3838 ONNX Runtime 加速 Hugging Face 上超过 130,000 个模型
ONNX Runtime 已支持 Hugging Face 上超过 130,000 个 ONNX 模型，覆盖 90 多种模型架构，包括 BERT、GPT2、DistilBERT、Stable-Diffusion、Whisper 等 11 个最热门架构。以 whisper-tiny 为例，使用 ONNX Runtime 加速后，单次推理平均延迟相比 PyTorch 最高可降低 74.30%。
OpenAI News精选AI 评分7575 ChatGPT 新增视觉、听觉与语音能力
OpenAI 官方宣布 ChatGPT 现在可以看、听和说，即支持图像输入、音频理解与语音输出能力。
Hugging Face BlogAI 评分4848 Hugging Face 推出 Inference for PROs
Hugging Face 推出面向 PRO 用户的 Inference for PROs，提供精选模型的专属 API 端点和更高的免费 Inference API 速率限制。
OpenAI NewsAI 评分2929 OpenAI Red Teaming Network 公开招募
OpenAI 宣布面向公众开放 OpenAI Red Teaming Network 的招募，邀请关注模型安全的各领域专家加入，共同提升 OpenAI 模型的安全性。
Hugging Face BlogAI 评分4040 SafeCoder 与闭源代码助手对比
Hugging Face 将开源企业级代码助手 SafeCoder 与 GitHub Copilot、Amazon CodeWhisperer 等闭源服务对比，强调其在透明度、可定制性、IT 灵活性和隐私安全上的优势。
Hugging Face BlogAI 评分5555 Hugging Face 与腾讯推出 T2I-Adapter-SDXL 及多种条件控制模型
Hugging Face Diffusers 团队与 T2I-Adapter 作者合作，在 diffusers 中支持 SDXL 的 T2I-Adapter，并开源 lineart、sketch、canny、depth、openpose 等条件的 checkpoints。
OpenAI NewsAI 评分4444 OpenAI 发布教师使用 ChatGPT 教学指南
OpenAI 发布了一份教师在课堂上使用 ChatGPT 的指南，内容包括建议的提示词、ChatGPT 的工作原理与局限性说明、AI 检测工具的有效性以及偏见问题。
OpenAI News精选AI 评分6666 OpenAI 发布 ChatGPT Enterprise
OpenAI 发布 ChatGPT Enterprise，称其提供企业级安全与隐私保护，以及迄今最强大的 ChatGPT 版本。
Hugging Face Blog精选AI 评分7878 Hugging Face 集成 Code Llama 模型家族
Hugging Face 宣布在自身生态中集成 Meta 的 Code Llama 模型家族，包含 7B、13B、34B 三种参数规模，以及 Python 专精版和指令微调版，采用与 Llama 2 相同的宽松社区许可并可商用。
推荐理由：原文给出模型规格、上下文窗口扩展方法和多语言榜单成绩，便于评估其在代码任务上的定位。
OpenAI NewsAI 评分3838 OpenAI 与 Scale 合作，为企业微调模型提供支持
OpenAI 与 Scale 达成合作，企业客户可通过 Scale 的 AI 专业能力定制 OpenAI 最先进的模型。Scale 将为企业微调模型提供支持服务。
Hugging Face Blog精选AI 评分6464 Hugging Face 将 AutoGPTQ 集成进 Transformers，支持 8/4/3/2-bit 量化
Hugging Face 宣布将 AutoGPTQ 库集成进 Transformers，用户可用 GPTQ 算法把模型量化到 8、4、3 甚至 2-bit 精度运行，4-bit 量化精度损失可忽略，小 batch 下推理速度接近 fp16 基线，同时支持 Nvidia 与 RoCm AMD GPU。
推荐理由：原文给出了量化位宽、显存与延迟的实测对比，读者可据此判断能否在自己的 GPU 上跑起大模型。
OpenAI NewsAI 评分5858 OpenAI 开放 GPT-3.5 Turbo 微调及 API 更新
OpenAI 宣布开发者现在可以使用自己的数据对 GPT-3.5 Turbo 进行微调，以适配具体用例，同时发布了相关 API 更新。
Hugging Face BlogAI 评分4444 Hugging Face 推出 SafeCoder：面向企业的自托管代码助手方案
Hugging Face 推出 SafeCoder，一套面向企业的端到端自托管代码助手方案，核心是基于 StarCoder 系列 Code LLM（15B 参数、8,192 tokens 上下文）在客户自有代码库上微调，训练与推理全程代码不出 VPC。
OpenAI NewsAI 评分5555 OpenAI 用 GPT-4 进行政策制定与内容审核
OpenAI 用 GPT-4 进行内容政策制定和内容审核决策，使标注更一致、政策优化的反馈循环更快，并减少人工审核员的参与。
Hugging Face BlogAI 评分3636 Hugging Face Hub 上线 AWS Marketplace，可用 AWS 账户付费
Hugging Face Hub 上线 AWS Marketplace，用户可直接用 AWS 账户订阅并支付 Hugging Face 服务费用，Inference Endpoints、Spaces Hardware Upgrades、AutoTrain 等托管服务的用量费用将自动计入 AWS 账单，而非由 Hugging Face 向组织信用卡扣款。
Hugging Face BlogAI 评分5555 Hugging Face 发布 Swift Transformers 等工具，支持在 Apple 设备上运行 Llama 2 等端侧 LLM
Hugging Face 发布 swift-transformers Swift 包、swift-chat 演示应用，以及更新版 exporters 和 transformers-to-coreml 转换工具，帮助 Swift 开发者在 Apple 设备上通过 Core ML 运行 Llama 2 等大语言模型，并提供 Llama 2 7B、Falcon 7B 等已转换模型。
Hugging Face BlogAI 评分4545 Hugging Face 推出 Agents.js：用 JavaScript 为 LLM 提供工具调用能力
Hugging Face 推出 Agents.js 库，可通过 npm 安装（`@huggingface/agents`），在浏览器或 Node 端为 LLM 提供工具调用能力，内置多模态工具并支持自定义工具与模型。
OpenAI NewsAI 评分5858 ChatGPT 推出自定义指令功能
OpenAI 官方宣布为 ChatGPT 推出自定义指令（custom instructions）功能，用户可设置自己的偏好，ChatGPT 在之后的所有对话中都会记住这些偏好，从而让用户对回复方式有更多控制。
OpenAI NewsAI 评分1515 Viable 用 GPT-4 大规模分析定性数据
Viable 使用 GPT-4 以革命性的规模和无与伦比的准确性分析定性数据。
Hugging Face BlogAI 评分2525 Hugging Face Spaces 上线 Panel 模板
Hugging Face 与 Panel 达成合作，在 Hugging Face Spaces 中集成了 Panel 模板，帮助用户快速上手构建并部署 Panel 应用。
Hugging Face BlogAI 评分3838 将 Livebook notebooks 作为应用部署到 Hugging Face Spaces
Hugging Face 支持将 Elixir 的 Livebook notebooks 作为应用部署到 Spaces，15 分钟内即可用 Whisper 构建一个仅支持语音消息的聊天应用。
OpenAI News精选AI 评分6767 OpenAI 为 API 推出函数调用、更长上下文与降价等更新
OpenAI 宣布多项 API 更新，包括更具可控性的 API 模型、函数调用能力、更长上下文以及更低价格。
Hugging Face BlogAI 评分5454 Hugging Face Hub 支持用 DuckDB 对 50,000+ 数据集执行 SQL 查询
Hugging Face Hub 新增功能，用户可用 DuckDB 对 Hub 上存储的 50,000+ 数据集直接执行 SQL 查询。数据集查看器会自动将所有公开数据集转换为 Parquet 文件，可通过 /parquet 端点获取文件 URL；配合 DuckDB 的 httpfs 扩展即可远程查询这些 Parquet 文件，且支持一次查询多个分片文件。
Hugging Face BlogAI 评分3838 fastText 加入 Hugging Face Hub
Hugging Face 与 Meta AI 合作，将 fastText 的官方镜像托管到 Hub，包括全部 157 种语言的词向量和最新的语言识别模型，用户可用几条命令下载使用。
Hugging Face BlogAI 评分4949 Hugging Face 推出 LLM Inference Container 用于 Amazon SageMaker 部署
Hugging Face 推出 LLM Inference Container（DLC），可在 Amazon SageMaker 上部署开源 LLM，底层由 Text Generation Inference（TGI）驱动。
Hugging Face BlogAI 评分1818 Hugging Face Hub 推出 BERTopic 集成
Hugging Face Hub 推出 BERTopic 集成，可直接在 Hub 上对模型和数据集进行主题建模。集成后可自动聚类并生成主题标签，例如 dialogue（14247）、speech asr（1833）、tuning（1369）等，覆盖问答、摘要、情感分析等常见 NLP 任务。
Hugging Face Blog精选AI 评分8888 Hugging Face 推出基于 bitsandbytes 的 4-bit 量化与 QLoRA 集成
Hugging Face 与 bitsandbytes 再次合作，在 transformers 中支持以 4-bit 精度运行大部分 HF 模型（含文本、视觉、多模态），并可基于 4bit 模型训练适配器，对应 Dettmers 等人当天发布的 QLoRA 论文。
推荐理由：原文给出 4bit 加载的具体参数配置与显存实测对照，读者可据此在消费级显卡上复现微调方案。
Hugging Face BlogAI 评分4545 Hugging Face 与 Microsoft 合作在 Azure Machine Learning 上线 Hugging Face Model Catalog
Hugging Face 与 Microsoft 合作，在 Azure Machine Learning Studio 内原生上线 Hugging Face Model Catalog，收录 Hugging Face Hub 上数千个热门 Transformers 模型，用户只需几次点击即可在托管端点上完成部署。
Hugging Face BlogAI 评分5555 Hugging Face 宣布 safetensors 通过安全审计并将成为默认模型格式
Hugging Face 联合 EleutherAI 和 Stability AI 委托 Trail of Bits 对 safetensors 库进行外部安全审计，结果显示未发现可导致任意代码执行的严重漏洞，仅修复了规范不精确和缺失校验导致的 polyglot 文件问题。