Hugging Face Blog·· 2025-12-11AI 评分58
llama.cpp server 新增 router 模式，支持免重启动态切换多模型
New in llama.cpp: Model Management
AI 导读
llama.cpp server 新增 router 模式，可在不重启服务的情况下动态加载、卸载和切换多个模型，把 Ollama 式的模型管理带进 llama.cpp。
来源：Hugging Face Blog · huggingface.co
llama.cpp server 新增 router 模式，支持免重启动态切换多模型