Qwen3.8-Flash-Next 性能突破：M4 Max 本地推理达 45 tok/s，多标记预测（MTP）成效率杀手锏

Qwen3.8-Flash-Next-oQ4e-mtp 在 Apple Silicon 硬件上展现出卓越的本地推理性能，其中 M4 Max 达到 45 tok/s，显著超越 M2 Ultra 的 25 tok/s，标志着端侧大模型效率进入新阶段。

• ▶ MTP（多标记预测）技术红利释放：该模型通过 MTP 架构有效打破了传统自回归生成的串行瓶颈，使得在相同参数规模下，推理吞吐量获得质的飞跃。
• ▶ Apple M4 系列架构优势凸显：M4 Max 在处理 Flash 系列模型时表现优于核心数更多的 M2 Ultra，反映出新一代芯片在内存带宽利用率和单核算力上的代际领先。

八卦洞察

此次 Qwen3.8-Flash-Next 的实测数据揭示了两个核心趋势：首先，阿里巴巴 Qwen 团队正在通过模型架构层面的创新（如 MTP 和特定的量化策略 oQ4e）深度适配消费级硬件。这种“软硬协同”的优化，让本地推理从“可用”转向“好用”。其次，M4 Max 的表现证明了 Apple 在统一内存架构（UMA）上的持续迭代正在拉大与旧款旗舰芯片的差距，尤其是在处理高并发、低延迟的 Flash 类模型时，M4 系列的神经引擎和内存控制器表现出了极高的能效比。

行动建议

对于开发者和企业：1. 优先适配 MTP 架构：在构建本地 RAG（检索增强生成）或 Agent 任务流时，应优先考虑支持 MTP 的模型版本，以降低交互延迟。2. 硬件选型策略：若追求极致的本地 AI 推理效率，M4 Max 的性价比已超越前代 Ultra 级别芯片，建议作为 AI 工作站的首选。3. 关注量化损失：oQ4e 量化在提升速度的同时，需在生产环境中严格评估其逻辑推理能力的衰减情况。