RTX5090

核心事件 开发者通过自研补丁修复了 llama.cpp 对 DeepSeek V4 Flash 的支持缺陷，成功在单张 RTX 5090 上实现了 1M token 上下文的本地推理。 八卦洞察 ▶ 显存黑洞的本质： 原生 llama.cpp 对 DSA lightning 索引器支持缺失，导致模型被迫回退至高显存开销模式，即便拥有 32GB VRAM 的 RTX 5090 也难以承载 1M 上下文。 ▶ 社区驱动的工程修复： 尽管上游 PR 已有雏形，但缺乏 CUDA 路径和模型图整合。该补丁证明了在边缘计算设备上运行超长上下文模型，瓶颈往往不在算力，而在显存管理和算子优化。 行动建议 对于依赖本地长上下文推理的开发者，建议关注该补丁的合并进度，并评估在 RTX 50 系列显卡上部署 DeepSeek V4 的可行性。 企业侧应意识到，高性能消费级硬件结合精细化工程优化，正在迅速缩小个人设备与云端推理在处理超长文档任务上的差距。