跨代“炼金术”：2017年的老将 V100 通过 NVFP4 优化战平 RTX 5090

核心事件

一名开发者通过名为“v100-skinny”的开源项目，成功在四块 2017 年发布的 Tesla V100（Volta 架构）显卡上原生运行了 Qwen 3.8 的 NVFP4 权重，其单请求推理速度竟然匹配了价值 6000 美元的最新旗舰 RTX 5090。这一成果打破了“NVFP4 仅限 Blackwell 架构”的硬件神话。

• ▶ 软件定义的硬件寿命：尽管 V100 缺乏 FP4/FP8 的原生硬件单元，但通过极致的软件模拟与内核优化，老旧企业级硬件在低比特推理任务中展现了惊人的生命力。
• ▶ 带宽胜过算力：在 LLM 推理的解码阶段，显存带宽往往是瓶颈。V100 搭载的 HBM2 显存即便在今天，面对采用 GDDR7 的消费级旗舰仍具一战之力。
• ▶ 打破架构壁垒：原本为 Blackwell 设计的混合 FP4/FP8 权重在未做修改的情况下运行在 Volta 架构上，证明了量化算法的通用性远超厂商的市场宣传。

八卦洞察

这不仅仅是一个极客的性能测试，更是对 NVIDIA 硬件迭代策略的一次“降维打击”。长期以来，芯片厂商倾向于通过绑定新指令集（如 Blackwell 的 FP4 单元）来驱动硬件更新周期。然而，本次实验证明，通过精巧的 CUDA 内核设计，我们可以跨越 7 年的架构鸿沟，在“过时”的 HBM 架构上复现最前沿的推理特性。这揭示了一个残酷的真相：在 LLM 推理场景下，昂贵的最新消费级显卡在面对拥有高带宽显存的老牌企业级计算卡时，并没有绝对的代差优势，尤其是在单用户延迟敏感的任务中。

行动建议

对于初创公司和个人开发者，不要急于淘汰手中的 V100 或 A100 集群。通过引入如 v100-skinny 或类似的低比特优化推理引擎，可以极大地延长现有资产的服役周期，实现极高的 ROI。同时，建议密切关注非官方的量化内核开发，这些社区驱动的优化往往能释放出比官方库（如 TensorRT）更激进的性能潜力。