百度开源 ERNIE 5.5 Flash Base 基座模型
热点事件持续更新
百度开源 ERNIE 5.5 Flash Base 基座模型
1 篇报道1 个报道来源3 小时前更新
先了解这件事
AI 综述
百度发布开源基座模型 ERNIE-5.5-Flash-Base,刻意不做微调与后训练,由开发者自行决定后续方向,后训练版本计划随后推出。权重以 FP8 和 BF16 格式开放于 Hugging Face。 该模型采用 MoE 架构,280B 参数中每次输入激活 14B,预训练使用 33.5 trillion tokens,训练上下文最长 128,000 tokens,微调与推理阶段设计支持至 1M tokens。
AI 根据报道生成 · 2 小时前更新
最新进展11月6日 01:56
百度开源 ERNIE 5.5 Flash Base 基座模型,280B 参数 MoE 架构报道时间线
沿着报道,了解事件的不同侧面。
11月6日
- The Decoder百度开源 ERNIE 5.5 Flash Base 基座模型,280B 参数 MoE 架构
百度发布开源基座模型 ERNIE-5.5-Flash-Base,刻意不带微调与后训练,由开发者自行决定后续方向,后训练版本计划随后推出。该模型采用 MoE 架构,280B 参数中每次输入激活 14B,预训练使用 33.5 trillion tokens,训练上下文最长 128,000 tokens,微调与推理阶段设计支持至 1M tokens。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。