已确认事实
llama.cpp 已发布 b10083。发布说明显示,此版本在 CUDA 的 TopK MoE 实现中为 DSV4 加入 sqrt_softplus。
为什么重要
该改动面向 MoE 模型的 CUDA 推理路径;预构建包覆盖 macOS、iOS 及多个 Linux CPU、Vulkan、ROCm、OpenVINO 等变体,便于不同环境获取该稳定版本。
仍待确认
发布说明片段未说明该改动对具体模型、性能或数值行为的量化影响。
llama.cpp 发布稳定版本 b10083,为 DSV4 的 TopK MoE CUDA 路径加入 sqrt_softplus。版本同时提供 macOS、iOS 与多种 Linux 平台的预构建包。
llama.cpp 已发布 b10083。发布说明显示,此版本在 CUDA 的 TopK MoE 实现中为 DSV4 加入 sqrt_softplus。
该改动面向 MoE 模型的 CUDA 推理路径;预构建包覆盖 macOS、iOS 及多个 Linux CPU、Vulkan、ROCm、OpenVINO 等变体,便于不同环境获取该稳定版本。
发布说明片段未说明该改动对具体模型、性能或数值行为的量化影响。