速度与真相的博弈：Diffusion Gemma 推理快 4 倍，但幻觉率飙升 6 倍

近期在单块 NVIDIA H100 (FP8) 上的基准测试揭示了 Google 新型 Diffusion Gemma 模型与其自回归（Autoregressive）版本之间的巨大性能鸿沟：尽管 Diffusion 架构实现了 4 倍的推理加速，但在事实准确性上却付出了沉重代价。

• ▶ 效率与可靠性的极端权衡：在针对乔布斯、俄罗斯方块及 BeOS 等不同知名度主题的测试中，自回归版 Gemma 4 仅出现 5 项错误，而 Diffusion Gemma 错误高达 28 项，事实性幻觉率增加了近 6 倍。
• ▶ 长尾知识的“崩塌”效应：随着主题知名度从主流（乔布斯）转向冷门（BeOS），Diffusion Gemma 的准确率呈现断崖式下跌，显示出该架构在处理低频训练数据时的表征能力极度脆弱。

八卦洞察

Diffusion Gemma 的出现代表了业界对“非自回归生成”这一圣杯的持续追求，旨在解决 LLM 推理成本高昂的顽疾。然而，本次测试结果给“唯速度论”敲响了警钟。自回归模型之所以强大，在于其逐字预测机制天然具备一种“因果逻辑校验”；而 Diffusion 模型试图通过全局降噪一次性生成文本，这在处理模糊的创意任务时或许有效，但在需要精确提取权重中事实信息的场景下，其“概率模糊性”导致了严重的逻辑漂移。这证明了在当前技术路径下，推理速度的跨越式提升仍难以摆脱“准确度税”的束缚。

行动建议

对于开发者和企业架构师，我们建议：1. 场景隔离：将 Diffusion Gemma 严格限制在创意头脑风暴、文本风格迁移或低容错要求的初稿生成任务中。2. RAG 强耦合：若必须在生产环境中使用该模型，必须强制接入高精度的 RAG（检索增强生成）工作流，以外部知识库对冲其严重的底层幻觉。3. 避开长尾：在涉及垂直领域或非公开知识的业务中，应坚决回归传统的自回归模型（如 Gemma 2 或 Llama 3 系列）。