半导体架构

随着AI算力需求激增，传统HBM（高带宽内存）的散热与堆叠物理极限日益凸显，业界领袖开始质疑其作为AI算力核心支撑的长期可持续性，并转向探索高带宽闪存（HBF）等替代路径。▶ HBM的物理天花板：前英特尔CEO与SK海力士高管均指出，HBM4若堆叠至20层，其逻辑核心速度可能因极端散热压力和信号延迟不增反降，甚至低于标准DDR内存。▶ 架构范式转移：业界正从单纯追求极低延迟转向追求“容量-带宽”的最优平衡，高带宽闪存（HBF）被视为解决万亿参数模型推理成本瓶颈的关键。八卦洞察「八卦资本」认为，HBM目前在AI加速器（如Nvidia B200）中的统治地位正面临“边际效用递减”的危机。HBM的本质是在昂贵的硅片上进行极限微缩，但物理定律不可逾越——当堆叠层数超过16层，热密度将直接限制时钟频率。SK海力士副总裁的表态极具信号意义：连最大的受益者都在寻找退路。高带宽闪存（HBF）的兴起，本质上是存储层级（Memory Hierarchy）的重构。对于LLM推理而言，容量往往比极速延迟更重要。如果HBF能通过CXL协议实现类内存的访问带宽，AI硬件的成本结构将发生颠覆性改变，这不仅是技术的更迭，更是对英伟达HBM护城河的直接挑战。行动建议对于AI芯片初创公司，应立即评估CXL 3.0与高带宽闪存集成方案，避免过度依赖昂贵且供应受限的HBM供应链。对于二级市场投资者，需警惕HBM概念股的长期估值溢价，关注在存算一体及新型存储介质领域有布局的潜在颠覆者。云服务商（CSP）则应在数据中心架构中提前布局异构内存池，以应对未来万亿参数模型对海量、廉价带宽的需求。

核心摘要OpenAI 秘密研发的 Jalapeno 加速器旨在通过深度软硬一体化，彻底重构大模型推理的成本与效率边界，标志着其正式开启从算法巨头向垂直整合算力强权的转型。▶ 推理专用化（ASIC 转向）： Jalapeno 并非通用 GPU 的直接挑战者，而是针对 Transformer 架构极致优化的专用集成电路，核心在于解决大模型推理中的内存带宽瓶颈。▶ 垂直整合护城河： 通过自研芯片，OpenAI 能够将模型权重分布与底层硬件拓扑完美对齐，实现远超通用 GPU 的每瓦性能比与吞吐量。八卦洞察OpenAI 此举标志着 AI 算力竞赛进入了“苹果化”阶段。Jalapeno 的出现证明了 OpenAI 意识到，在 Scaling Law 的下半场，单纯堆砌通用算力已难以为继。Jalapeno 的核心竞争力不在于峰值算力（TFLOPS），而在于其对 KV Cache 管理、长文本推理以及稀疏计算的硬件级原生支持。这不仅是为了摆脱对英伟达的依赖，更是为了通过定义硬件架构来反向锁定其模型算法的领先优势。当推理成本降低一个数量级时，OpenAI 将拥有对所有云厂商和模型初创公司的绝对定价权。行动建议对于算力密集型企业，应高度关注 AI ASIC 替代方案的成熟度，避免过度捆绑于单一硬件生态。对于云服务商而言，加速自研芯片（如 Tranium/TPU）的迭代已不再是选项，而是生存前提，以应对 OpenAI 带来的推理成本降维打击。同时，开发者应提前关注针对特定硬件优化的算子库，为未来的异构计算环境做准备。

Mythic 通过在闪存（Flash）阵列内部直接执行矩阵向量乘法（MVM），利用模拟电路的物理特性实现了革命性的存内计算（CiM）架构，旨在彻底消除 AI 推理中的“存储墙”瓶颈。 ▶ 物理定律即计算：不同于传统数字处理器，Mythic 利用欧姆定律和基尔霍夫定律在闪存单元内直接进行模拟运算，将数据搬运功耗降至近乎为零。 ▶ 极致能效比：通过将权重参数永久存储在非易失性闪存中，该架构在边缘侧视觉处理等任务上表现出远超传统 GPU 和 NPU 的吞吐量与能效表现。 八卦洞察 Mythic 的技术路径代表了从“逻辑门计算”向“物理特性计算”的范式转移。在当前大模型向边缘侧下沉的趋势下，传统的冯·诺依曼架构因频繁的内存访问（SRAM/DRAM）而在能效比上遭遇天花板。Mythic 的核心竞争力在于其对闪存单元的高精度控制，使其能以极低的功耗处理高维矩阵运算。然而，模拟计算的硬伤在于对噪声的敏感度和模数转换（ADC）带来的额外开销。我们认为，Mythic 的胜负手不在于其模拟核心有多快，而在于其配套的编译器能否完美解决模拟信号的不确定性，并实现与主流 AI 框架的无缝对接。 行动建议 对于智能监控、工业自动化等对功耗极度敏感的边缘侧 OEM 厂商，应立即启动对 Mythic 模拟计算平台的 POC 测试，评估其在实时视觉识别任务中的长效稳定性。投资者应重点关注其在 ADC 功耗优化及多芯片级联技术上的进展，这决定了该架构能否从单一视觉任务扩展到更复杂的 Transformer 类模型。