PCIe交换机

核心事件 一名硬件极客成功通过华擎 SPC621D8U 主板与双 PLX PEX88096 交换机，组建了一套包含 16 张 RTX 5060 Ti (16GB) 的高性能集群，在运行 DeepSeek V4 Flash-0731 时实现了 130-150 t/s 的惊人推理速度。 ▶ 硬件架构：利用 PLX 交换机突破了传统 CPU PCIe 通道数的限制，实现了 16 卡并行的超高密度部署。 ▶ 软件突破：通过 Aikitoria 驱动补丁和开启每张显卡 16GB 的 BAR1 空间，绕过了 NVIDIA 对消费级显卡在大规模并行环境下的软件限制。 ▶ 性能指标：130-150 t/s 的吞吐量意味着该方案在特定推理任务上已具备挑战企业级 A100/H100 集群的性价比潜力。 八卦洞察 这不仅仅是一次硬件DIY，它揭示了全球 AI 基础设施领域的一个重要趋势：“影子集群”的崛起。当 NVIDIA 通过 NVLink 和昂贵的 H 系列显卡筑起生态围墙时，开发者社区正在利用 PLX 交换机和消费级 VRAM 显卡进行“降维打击”。 DeepSeek V4 Flash 的优化与这种高带宽、多显存的硬件配置产生了极佳的化学反应。16GB 的 5060 Ti 虽然单卡算力有限，但 16 张卡构成的 256GB 总显存池，配合 PLX 带来的低延迟互联，证明了在推理端，“显存总量 + 互联带宽”的优先级正逐渐超越“单核算力”。这种“农村包围城市”的硬件策略，为中小型 AI 实验室和初创企业提供了一条绕过算力禁运和高昂租金的可行路径。 行动建议 针对企业架构师：在评估推理成本时，不应只盯着云端 H100 实例。对于 DeepSeek 等针对推理优化的模型，自建基于 PLX 交换机的消费级显卡集群在长期 TCO（总拥有成本）上具有显著优势。 针对硬件采购：关注支持大容量 BAR1 空间和 UEFI 引导的组件。RTX 5060 Ti 16GB 版本因其低功耗和高显存容量，正成为构建分布式推理节点的“神卡”。 技术储备：建议团队深入研究 Aikitoria 等第三方驱动补丁及 Linux 内核对大规模 PCIe 设备的管理，这是玩转“影子集群”的核心门槛。