llama.cpp

核心事件 在 AMD Strix Halo（gfx1151）平台上，基于 llama.cpp 的基准测试显示，Vulkan 后端在运行 Qwen3.6-35B-A3B 模型时，其推理性能意外优于 AMD 原生的 ROCm 后端。 八卦洞察 ▶ 驱动成熟度鸿沟：ROCm 虽然作为 AMD 的高性能计算栈，但在消费级/移动端架构（如 Strix Halo）上的优化优先级仍滞后于通用的 Mesa RADV 驱动。 ▶ 跨平台抽象的胜利：Vulkan 作为一种图形 API，其在异构计算上的通用性正在弥补专用 AI 框架在特定硬件上的软件栈短板。 行动建议 ▶ 开发者：在 AMD 新架构硬件部署时，不要局限于 ROCm，应将 Vulkan 作为性能基准测试的必要选项。 ▶ 硬件厂商：AMD 需加速 ROCm 在移动端架构的兼容性与性能调优，避免在边缘 AI 市场被“通用驱动”反超。