llama.cpp 0.7.0 增加 MoE 缓存并调整服务端 API
llama.cpp 0.7.0 增加 MoE 缓存并调整服务端 API
2026-10-16已核实动态TRIAL
llama.cpp 0.7.0 为留在主机内存的 MoE 专家增加 GPU LRU 缓存，并加入 LiLiCorr 推测解码与更多模型架构。非 Docker 服务端默认端口从 8080 改为 9931，格式化 chat 返回值改为 parts 数组，RPC 协议升级到 v8。最高 2.2 倍解码提升来自项目自测，不是独立 benchmark。