端侧AI的“暴力美学”：MiniCPM-V 4.7 如何在 3GB 内存手机上跑通 35B 模型？

OpenBMB 发布的 MiniCPM-V 4.7 演示在 LocalLLaMA 社区引发轰动，该模型采用 35B-A3B 的 MoE（混合专家）架构，成功在内存受限的手机端实现了复杂的视觉推理与文档解析能力。

• ▶ 架构降维打击：通过 35B 总参数、3B 激活参数的 MoE 设计，该模型在保持大规模模型知识容量的同时，将运行内存需求压缩至 3GB 左右，彻底打破了端侧运行大参数模型的“内存墙”。
• ▶ 全场景落地潜力：演示涵盖了现实路牌识别、复杂文档解析及具身智能规划，标志着端侧多模态模型已从“技术验证”阶段跨入“高价值业务替代”阶段。

八卦洞察

MiniCPM-V 4.7 的核心价值不在于其 35B 的虚标参数，而在于其对“激活效率”的极致榨取。在硅谷大厂普遍追求云端巨型模型的当下，OpenBMB 走通了一条“大模型底蕴、小模型能耗”的差异化路线。这种 35B-A3B 的配比暗示了未来端侧 AI 的主流形态：利用 MoE 架构实现知识的广度覆盖，同时通过稀疏激活确保在移动端 SoC 上的实时响应。这不仅是技术突破，更是对隐私敏感型、低延迟需求场景（如工业巡检、个人助理）的存量市场收割。

行动建议

对于开发者而言，应立即评估该模型在私有化部署中的表现，特别是其对长文本和复杂视觉图表的解析精度，这可能是替代昂贵 GPT-4V API 的高性价比方案。硬件厂商则需关注 MoE 架构在 NPU 上的调度优化，因为未来的端侧竞争将从“算力峰值”转向“单位能效下的专家切换速度”。