算力效率新巅峰：llama.cpp 正式支持 NVFP4 与多 Token 预测 (MTP)

开源大模型推理框架 llama.cpp 在其最新的 b9297 版本中，正式集成了对 NVIDIA FP4 (NVFP4) 量化格式和多 Token 预测 (Multi-Token Prediction, MTP) 的支持。这一更新标志着本地推理社区已全面接轨 NVIDIA Blackwell 架构的核心特性，进一步压榨硬件性能极限。

• ▶ NVFP4 降临：作为 NVIDIA 最新的 4 位浮点格式，NVFP4 在保持极低显存占用的同时，其精度表现优于传统的 INT4 量化，为本地部署高参数模型提供了更优的“精度/容量”平衡点。
• ▶ MTP 速度倍增：多 Token 预测技术的引入，改变了传统的逐个 Token 生成模式，通过并行预测后续多个 Token，显著提升了推理吞吐量（Throughput），尤其在长文本生成场景下优势巨大。

八卦洞察

此次更新并非简单的功能堆砌，而是本地 AI 生态对企业级硬件特性的一次“降维打击”。NVFP4 是 Blackwell GPU 架构的杀手锏，llama.cpp 的快速跟进意味着社区开发者无需等待昂贵的企业级软件栈，即可在消费级或专业级 NVIDIA 硬件上体验最前沿的量化增益。此外，MTP 的加入暗示了未来模型架构的演进方向——从“追求单点准确”转向“追求系统级生成速度”，这对于构建实时交互式 AI 应用至关重要。

行动建议

对于追求极致性能的开发者，建议立即升级至 b9297 或更高版本，并针对现有模型进行 NVFP4 重新量化测试。在部署高并发 API 服务时，应优先开启 MTP 功能以优化 Token 生成成本。同时，需密切关注硬件兼容性，NVFP4 的最佳性能表现仍高度依赖于 NVIDIA 最新一代 Tensor Core 的硬件加速。