用 OpenAI o1 做金融分析
Rogo 用 OpenAI o1 扩展 AI 驱动的金融研究。Rogo 是面向投行、私募股权和对冲基金的金融研究平台,借助 o1 处理财务分析任务。
Rogo 用 OpenAI o1 扩展 AI 驱动的金融研究。Rogo 是面向投行、私募股权和对冲基金的金融研究平台,借助 o1 处理财务分析任务。
Hugging Face 博客给出一套测算大规模分类与嵌入推理成本和延迟的方法,覆盖硬件选择、部署、负载测试与推理服务四个环节,并开源了代码 https://github.com/datavistics/encoder-analysis。
Hugging Face 的 Open R1 项目发布首个大规模数学推理数据集 OpenR1-Math-220k,用 512 张 H100 本地跑 DeepSeek R1 生成 800k 条推理轨迹,经 Math Verify 与 Llama3.3-70B-Instruct 判分过滤后保留 220k 道题的正确轨迹。
推荐理由:原文公开了数据生成与过滤的完整流水线和训练对照结果,读者可据此复现或迁移到其他领域。
Hugging Face 与 Adyen 联合发布 DABStep(Data Agent Benchmark for Multi-step Reasoning),包含 450+ 来自 Adyen 真实工作负载的数据分析任务,用于评估 LLM 与 AI 智能体的多步推理能力。
Hugging Face 发布 Open-R1 项目首周更新,称已在 MATH-500 Benchmark 上基本复现 DeepSeek-R1 蒸馏模型的报告分数,并上线了公开评测 leaderboard。
推荐理由:汇总了复现进度、训练管线细节和社区数据集,读者可据此评估开源复现 DeepSeek-R1 的可行性与路径。
OpenAI 通过官方新闻页发布 o3-mini 模型,本次抓取失败,仅标题可用,正文内容缺失。
Hugging Face 博客用 GRPO 和 Countdown Game 在 4x NVIDIA H100 上复现 DeepSeek R1 的 aha moment,训练 Qwen2.5-3B-Instruct 学会自我验证与搜索。
推荐理由:教程给出可复现的 GRPO 训练配置与超参调整过程,读者可据此在自有硬件上复现类似实验。
OpenAI 将其最新推理模型提供给美国国家实验室的顶尖科学家,用于推动科学突破。原文未披露具体模型版本、参数规模或 benchmark 分数。
Hugging Face 在 Hub 模型页上线 fal、Replicate、Sambanova、Together AI 四家 serverless 推理提供商的集成,并同步接入 JS 和 Python 客户端 SDK。
推荐理由:原文给出了统一接入方式、计费规则和可直接复用的调用示例,读者可据此判断如何在自己项目中切换推理提供商。
Hugging Face 发布 Open-R1 项目,旨在系统性重建 DeepSeek-R1 的数据与训练管线、验证其技术报告中的主张,并推动开源推理模型的发展。
推荐理由:原文拆解了 DeepSeek-R1 训练配方中尚未公开的部分,并给出 Open-R1 的三步复现路线,便于读者理解开源社区如何补齐这些环节。
OpenAI 发布研究,提出用推理时计算(inference-time compute)换取模型的对抗鲁棒性,即让模型在推理阶段投入更多计算以抵御对抗性攻击。该研究探讨了推理时计算与对抗鲁棒性之间的权衡关系,为提升模型安全性提供了新思路。
OpenAI 发布新的对齐策略 deliberative alignment,用于 o1 模型,直接向模型教授安全规范并让模型围绕这些规范进行推理。
推荐理由:原文点明该策略直接教模型安全规范并对其推理,读者可据此理解对齐思路的变化。
OpenAI 官方宣布推出 OpenAI o1,同时带来面向开发者的 Realtime API 改进和一种新的微调方法等更新。
Hugging Face 与 Intel Labs 联合推出 Universal Assisted Generation(UAG),让 assisted generation(投机解码)不再要求目标模型与助手模型来自同一模型族、共享同一 tokenizer,可为任意 decoder 或 MoE 模型带来 1.5x-2.0x 推理加速且几乎零开销。
OpenAI 发布视频介绍 o1 推理模型如何在编程、策略和研究等领域帮助解决复杂问题。
Hugging Face 与 Intel labs 合作开发的动态推测解码已集成进 Transformers 4.45.0,成为 assisted generation 的默认模式,最高可带来 2.7x 加速。
OpenAI 官方发布 o1 模型,原文链接为 https://openai.com/index/introducing-openai-o1-preview,抓取失败,仅标题可用,无正文细节。
OpenAI News 发布标题为 Learning to reason with LLMs 的内容,抓取失败,正文不可用,仅标题可用。
OpenAI 发布 o1-mini,定位为成本高效的推理模型,官方页面以 Advancing cost-efficient reasoning 作为核心描述。feed 仅提供摘要,未给出参数、价格或评测细节。
OpenAI 发布了 o1 Contributions 页面,介绍 o1 模型的贡献与相关信息。该页面由 OpenAI News 发布,作为 o1 模型的官方说明入口。
经济学家 Tyler Cowen 解释了 OpenAI o1 如何处理复杂的经济问题。文章围绕 o1 在经济推理场景中的表现展开,展示其应对复杂经济提问的能力。
遗传学家 Catherine Brownstein 演示了如何用 OpenAI o1 加速诊断罕见医学难题的流程。
量子物理学家 Mario Krenn 使用 OpenAI o1 来帮助回答量子物理领域的重大问题。
Cognition CEO 兼联合创始人 Scott Wu 解释了 OpenAI o1 如何以更接近人类的方式做出编码决策。
Hugging Face 团队复现 Google 的 Infini-attention 论文,尝试把 Llama 3 8B 的 8k 上下文扩展到 100 万 token,最终发现该方法表现随压缩次数增加而变差,认为 Ring Attention、YaRN 和 rope scaling 仍是更好的长上下文扩展方案。
Hugging Face 与阿布扎比 TII 联合发布 Falcon Mamba 7B,基于 Mamba 架构并加入额外 RMS 归一化层,以约 5500GT 数据训练,可处理任意长度序列且生成每个 token 耗时恒定,能装进单张 A10 24GB GPU。
推荐理由:原文对比了 SSM 与 Transformer 在长序列上的内存与吞吐差异,读者可据此理解无注意力架构的适用边界。
Mistral AI 发布 Mistral Large 2,API 名为 mistral-large-2407,已在 la Plateforme 和 le Chat 上线,instruct 模型权重同步上线 HuggingFace。
推荐理由:原文给出参数规模、上下文长度与多项基准对比,读者可据此评估它在性能成本上的定位。
Hugging Face 与 Meta 合作将 Llama 3.1 系列集成到其生态,Hub 上提供 8 个开放权重模型(3 个 base 和 5 个微调版本),涵盖 8B、70B、405B 三种尺寸,均支持 128K 上下文窗口和 8 种语言,并新增工具调用能力与更宽松的许可(允许用模型输出改进其他 LLM)。
推荐理由:详细列出三种尺寸的显存需求与量化方案,读者可据此判断自己硬件能否跑起来。
Mistral AI 发布并开源专注数学与 STEM 推理的指令模型 Mathstral 7B,基于 Mistral 7B 构建,与 Project Numina 合作产出。
Numina 与 Hugging Face 合作的 NuminaMath 7B TIR 赢得首届 AIMO Progress Prize,在私有测试集 50 题中解出 29 题。
推荐理由:详细拆解了从数据构造到解码算法的完整配方,可迁移方法多。
OpenAI 提出改进一致性模型(Consistency Models)训练的新方法,使这类生成模型能在无需对抗训练的情况下,仅用一步采样生成高质量数据。
Hugging Face 将 assisted generation(基于 Speculative Sampling)适配并优化到 Intel Gaudi 处理器,现已集成进 Optimum Habana。
Hugging Face 在 Transformers 中推出 KV Cache Quantization 功能,通过降低 KV cache 数值精度显著减少长上下文生成的内存占用,支持更长生成而不易耗尽显存。
Hugging Face Leaderboards and Evals 团队与 Dottxt 合作研究发现,MMLU 上仅改变 prompt 格式就能让模型分数波动约 10 个点,Qwen1.5-7B 在不同格式下准确率从 51.2% 跌至 22.9%,few-shot 顺序变化也可带来最多 3 分差异,且模型排名会随之改变。
Hugging Face 推出 Open CoT Leaderboard,通过对比模型在有无思维链(CoT)提示下的准确率差值(accuracy gain Δ),衡量 LLM 生成有效推理轨迹的能力,而非绝对准确率。该榜单使用 LogiQA、LSAT 等逻辑推理任务,已实现 Classic 和 Reflect 两种提示策略,旨在更稳健地评估模型推理能力并规避训练数据污染问题。
Hugging Face 上线 NPHardEval 排行榜,该基准由密歇根大学与罗格斯大学研究者开发,用 900 道覆盖 NP-Hard 及以下复杂度类的算法题评估大语言模型推理能力,并每月更新题目以防过拟合。
Hugging Face 在 Intel 第 4 代 Xeon 上通过 8bit/4bit 量化与投机解码(assisted generation)将 StarCoder-15B 推理加速 7 倍以上。
Mistral 发布开源大模型 Mixtral 8x7B,Hugging Face 完成生态集成,包括 Hub 模型卡、Transformers、Inference Endpoints 与 Text Generation Inference 支持。
推荐理由:文章解释了 MoE 架构如何让 45B 参数模型以 12B 密集模型速度解码,并给出量化与微调的实操路径。
Hugging Face 官方博客发布 Mixture of Experts Explained,系统讲解 MoE 的组成、稀疏性、负载均衡、Switch Transformers、微调挑战与推理部署技巧。
推荐理由:系统梳理了 MoE 的原理、训练与推理权衡,读者可据此判断何时选用稀疏模型。
Hugging Face 发布博客,复现 OpenAI 2019 年的 RLHF 代码库 openai/lm-human-preferences,在 sentiment 和 descriptiveness 等风格任务上得到与原版几乎一致的学习曲线,并整理出一份实现细节清单。