Maple-Preview：移动端AI推理的“摩尔定律”时刻，20B MoE模型在iPhone上狂飙至120 tok/s

事件核心

DeepGrove AI 推出的 Maple-Preview 实现了技术突破，通过三值（ternary）量化技术，成功在 iPhone 硬件上运行 20B 参数的混合专家模型（MoE），推理速度高达 120 tok/s。这一成果打破了“大模型必须依赖云端”的传统认知，展示了端侧推理的极致性能。

技术/商业细节

该项目的核心在于“三值权重”（-1, 0, 1）量化架构。相比于传统的 4-bit 或 8-bit 量化，三值化在保持模型语义理解能力的同时，极大地降低了内存带宽需求和计算复杂度。在 iPhone 的 NPU/GPU 异构计算环境下，Maple-Preview 通过高效的内核优化，绕过了移动端内存带宽的瓶颈，使得 20B 参数量级的模型能够以接近人类阅读速度的吞吐量运行。

八卦分析：全球影响

Maple-Preview 的出现对 AI 产业格局具有深远意义：首先，它直接挑战了云端推理的商业模式，将 AI 算力重心从数据中心向边缘侧迁移；其次，它为隐私敏感型应用（如本地个人助理、离线医疗诊断）铺平了道路，用户无需将数据上传至云端即可获得高性能 AI 服务；最后，这标志着模型压缩技术已进入“暴力美学”时代，即通过极致的数学优化，让移动设备实现“越级”算力。

战略建议

对于开发者，应重点关注三值化及低比特量化在端侧的落地潜力，这将是未来半年移动 AI 的核心竞争点。对于企业，应重新评估 AI 产品的部署架构，优先考虑端侧推理以降低云端 API 调用成本并提升用户隐私体验。