用自定义指令个性化 ChatGPT
OpenAI 介绍如何用 custom instructions(自定义指令)让 ChatGPT 根据你的角色、偏好和工作场景进行个性化设置。该功能允许用户在对话中持续注入个人背景信息,使模型回复更贴合实际需求。
OpenAI 介绍如何用 custom instructions(自定义指令)让 ChatGPT 根据你的角色、偏好和工作场景进行个性化设置。该功能允许用户在对话中持续注入个人背景信息,使模型回复更贴合实际需求。
Hugging Face 发布博客回顾过去一年视觉语言模型(VLM)的发展,覆盖 any-to-any 模型、推理模型、小模型、MoE 解码器、VLA、目标检测与分割、多模态安全、多模态 RAG、多模态 Agent、视频语言模型、DPO 对齐技术和新基准等主题。
LeRobot 官方博客把机器人泛化定义为数据问题,介绍社区数据集在 Hugging Face Hub 上快速增长的现状,并指出当前数据集在任务标注、特征命名、episode 完整性和动作维度上的常见问题。
Hugging Face 博客通过对比 Qwen-3 与 Qwen-2.5、QwQ 的 Jinja 聊天模板,总结出四点设计变化。Qwen-3 可通过 enable_thinking 标志关闭推理,用滚动检查点保留工具调用后的完整 think 块并裁剪更早内容,工具参数仅在非字符串时才做 tojson 序列化,且不再内置默认系统提示词。这些改动旨在提升智能体工作流的可靠性与效率。
Hugging Face 官方教程介绍如何用 Gradio 把任意 Python 函数变成 LLM 可调用的 MCP 工具,只需在 launch 中设置 mcp_server=True 即可启动 MCP 服务器并获得 SSE 端点。
Hugging Face 发布 Tiny Agent,用约 50 行 TypeScript 代码实现一个由 MCP 驱动的 Agent,核心思路是 MCP 客户端之上套一个 while 循环。
推荐理由:文章把 MCP 客户端与 Agent 的实现拆解到 50 行代码级别,读者可直接照搬这套 while 循环结构到自己的项目。
TNG 基于 olmOCR-7B-0225-preview 微调出忠实 OCR 引擎,解决了原模型忽略页眉页脚关键信息(如发票)的问题。团队用 Qwen2.5-VL-72B-Instruct 生成 8,000 份文档数据集,在 8xH100 节点上以 4 步梯度累积训练 2.5 epochs,微调后模型能完整提取页眉页脚内容并仍可解析表格,已开源至 HuggingFace。
Hugging Face 博客详解 LLM 并发请求处理中 Prefill(计算首个输出 token,可并行)与 Decode(逐 token 生成,无法并行)两阶段的性能差异及其对延迟、吞吐量和 GPU 利用率的影响。
Gradio 官方博客列出 17 个理由,说明它不只是 UI 库,而是通过 UI 与 API 交互机器学习模型的框架。
ChatGPT 的 canvas 功能可将产品需求文档直接转化为可运行的 HTML/React 原型。文章演示了从 PRD 到原型的完整流程,展示如何用 canvas 快速完成从需求到可交互代码的落地。
ChatGPT 可以规划调研、搜索并阅读资料来源,最终整理出一份详细的调研报告,用于支持市场分析。
Mistral AI 介绍了用 LLM as a Judge 评估 RAG 系统的方法:由一个 judge LLM 按数值、二元或定性量表给 generator LLM 的答案打分,并在评测数据集上取平均得到总分。
ChatGPT 可以通过分析背景、生成备选方案并把决策转化为后续步骤,来支持战略规划。
Gradio 官方博客宣布其每月被超过 100 万开发者用于构建和分享 AI web 应用,包括 Automatic1111、Oobabooga 的 Text Generation WebUI、Dall-E Mini 和 LLaMA-Factory 等知名开源项目。
Hugging Face 官方博客发布 TNG Technology Consulting 关于 LLM 服务性能系列文章的第一篇,讲解多应用共享 GPU 时的请求排队与调度策略。
Hugging Face 评估 HashiCorp Vault 后选择 Infisical,将密钥管理从 AWS-only 迁移到多云环境(Azure、GCP),并整合 Okta SSO 实现细粒度 RBAC 权限控制。
Hugging Face 官方博客给出用 Sentence Transformers 微调 reranker(Cross Encoder)模型的完整教程,覆盖数据集、硬负例挖掘、损失函数、训练参数、评估器与 CrossEncoderTrainer 各组件,并附完整训练脚本。
推荐理由:教程给出可复用的训练配方和评测对照,读者可据此判断在自有数据上微调 reranker 能带来多大提升。
教程介绍如何在本地用 LM Studio 运行 OlympicCoder 7B 并接入 VS Code:安装 LM Studio,从 hub 拉取 4bit GGUF 版本(推荐 Q4_K_M 量化)。
Hugging Face 发布教程,指导用 React Native 构建可在 Android 和 iOS 上从 Hugging Face Hub 下载 GGUF 模型并完全离线本地推理的聊天应用,完整代码在 EdgeLLM 仓库。
Mistral AI 推出 TranscriptToPRDTicket agentic workflow,由 PRDAgent 和 TicketCreationAgent 两个组件构成,均基于 Mistral Large 2 驱动,可将会议记录自动转化为 PRD 和结构化开发任务。
Arize Phoenix 提供集中式平台,可实时追踪、评估和调试 Agent 的决策过程。教程以 smolagents 构建的 CodeAgent 为例,通过 OpenTelemetry + OpenInference 自动捕获 smolagents 调用的 trace。
Hugging Face 博客给出一套测算大规模分类与嵌入推理成本和延迟的方法,覆盖硬件选择、部署、负载测试与推理服务四个环节,并开源了代码 https://github.com/datavistics/encoder-analysis。
Hugging Face 发布面向视频生成模型微调的数据集构建工具链,包含下载、预处理过滤与打标三阶段流水线,用 yt-dlp 下载、LAION-5B-WatermarkDetection 检测水印、improved-aesthetic-predictor 打美学分、OpenCV 计算运动分,并用 Florence-2 或 Qwen2.5 生成字幕。
Hugging Face 的 Xet 团队开源 xet-core 和 hf_xet,用基于 Rust 的分块方法替代文件级传输,部分场景下上传下载提速 2-3 倍。
Hugging Face 在 24 小时冲刺中开源复现 OpenAI 的 Deep Research,基于 smolagents 构建的开源智能体在 GAIA 验证集上取得 55.15% 的成绩,超过此前开源框架 Magentic-One 约 46% 的水平。
推荐理由:文中给出了代码动作相对 JSON 的具体优势和可复现的性能差距,读者可据此判断智能体框架选型的影响。
Hugging Face 发布 Open-R1 项目首周更新,称已在 MATH-500 Benchmark 上基本复现 DeepSeek-R1 蒸馏模型的报告分数,并上线了公开评测 leaderboard。
推荐理由:汇总了复现进度、训练管线细节和社区数据集,读者可据此评估开源复现 DeepSeek-R1 的可行性与路径。
Hugging Face 博客用 GRPO 和 Countdown Game 在 4x NVIDIA H100 上复现 DeepSeek R1 的 aha moment,训练 Qwen2.5-3B-Instruct 学会自我验证与搜索。
推荐理由:教程给出可复现的 GRPO 训练配置与超参调整过程,读者可据此在自有硬件上复现类似实验。
Hugging Face 与 AWS 合作发布持续更新的文档,介绍如何在 AWS 上部署和微调 DeepSeek R1 系列模型。
Hugging Face Diffusers 团队发文盘点当前开源视频生成模型现状,并给出在 Diffusers 中运行和优化这些模型的方案。
推荐理由:给出了显存实测数据和可组合的优化手段,读者可据此判断在自己硬件上跑开源视频模型的可行性。
NVIDIA 推出 Python 工具包 KVPress,通过 KnormPress、SnapKVPress、ExpectedAttentionPress 等多种压缩算法(presses)剪枝 KV Cache 中不重要的 KV 对,实现长上下文 LLM 的内存高效推理。
Hugging Face 博客发布教程,讲解如何用 torch.cuda.memory._record_memory_history 记录显存快照并在 pytorch.org/memory_viz 可视化,逐步拆解模型创建、前向传播、反向传播与优化器步骤各阶段的显存变化。
Hugging Face Hub 提供数据集托管与分享服务,支持 TB 级数据集、单文件上限 50 GB(Xet 团队正升级至 500 GB),并内置 Dataset Viewer 全文搜索、排序与浏览器内 SQL Console。
Digital Green 在 Hugging Face Expert Support 项目支持下,为面向小农户的 RAG 聊天机器人 Farmer.chat 搭建了 LLM-as-a-judge 评估体系,覆盖提示词清晰度、问题类型、已回答比例和 RAG 准确性等指标,其中 RAG 准确性用二元打分提示词(灵感来自 RAGAS 库)在约 360 道题上与人工评估高度相关。
Hugging Face 官方博客给出将 Speech-to-Speech(S2S)级联语音管线(VAD、STT、LM、TTS,支持英法西中日韩多语言)部署到 Inference Endpoints 的完整步骤。
Keras 从第一天起就支持 Llama 3.2,可通过 keras_hub 直接加载 `hf://meta-llama/Llama-3.2-1B-Instruct` 等 Hugging Face safetensors checkpoint,需要转换时会自动完成。
Hugging Face 官方博客说明 transformers Trainer 中梯度累积导致损失不匹配的问题及其修复方案。问题源于默认损失函数按批次平均而非按累积步内非 padding token 总数计算,官方将自动处理默认损失的梯度累积逻辑,并新增 loss_function 属性和 API 允许用户传入自定义损失函数。
Hugging Face 官方博客展示了如何用 Dask 把基于 FineWeb 数据集的 FineWeb-Edu 分类任务从本地 100 行扩展到云端多 GPU 上的 2.11 亿行。
Hugging Face Xet 团队针对 Hub 上 Parquet 文件的去重效率展开实验,发现追加操作去重率可达 99.1%(仅需 20MB 额外存储),而修改单行因 Parquet 列头记录绝对文件偏移导致去重率降至 89%(需 230MB),删除行则会因行组重排使后半文件完全重写。
Hugging Face 发布教程,讲解如何将顶点着色的网格(如 InstantMesh 等生成式 3D 模型的输出)转换为带 UV 贴图的纹理网格。快速方案可直接安装其开源库 InstantTexture,通过 `Converter` 类将顶点着色的 .obj 网格转为 UV 贴图的 .glb 网格。
Hugging Face Daily Papers 页面上线以来已收录超过 3,700 篇论文,订阅用户超过 12k。作者可一键认领论文并关联自己的模型或数据集,用户可在评论区 @librarian-bot 获取相关论文推荐,或通过 @username 与作者直接对话。页面还支持多语言评论与内置翻译、upvote 推荐、每日订阅推送,以及与 arXiv 的双向跳转集成(需安装浏览器扩展)。