Liquid AI

核心事件 Liquid AI 传闻即将推出其首个 100B 参数级别的 Liquid Foundation Model (LFM)。作为从 MIT CSAIL 实验室孵化的明星初创公司，Liquid AI 凭借其非 Transformer 的动力系统架构（Dynamical Systems）在推理效率和长文本处理上展现了极高潜力。此次 100B 模型的推出，标志着“非 Transformer”路线正式进入超大规模参数的正面战场。 ▶ 架构范式转移：Liquid AI 采用的 LFM 架构在处理长序列时具有线性复杂度，而非 Transformer 的平方复杂度，这意味着 100B 模型可能在保持高性能的同时，拥有极低的显存占用和极高的推理速度。 ▶ 企业级落地的“黄金分割点”：100B 参数规模通常被认为是性能与部署成本的平衡点。如果 LFM 能在 100B 规模上达到甚至超过 Llama 3 405B 的部分能力，将彻底改变大模型算力性价比的逻辑。 ▶ 长文本与实时学习：Liquid 架构天然支持无限长文本和更强的上下文学习能力，这对于 RAG（检索增强生成）和复杂逻辑推理场景具有代差优势。 八卦洞察 Liquid AI 的核心竞争力不在于堆算力，而在于对“计算本质”的重新思考。目前大模型领域正处于 Transformer 架构的边际效用递减期，算力成本已成为行业枷锁。Liquid AI 此次冲击 100B，本质上是在向全球开发者证明：非 Transformer 架构不仅在 SLM（小语言模型）领域有效，在 LLM 领域同样具备扩展性（Scalability）。如果该模型实测表现优异，可能会引发资本市场对非 Transformer 路线（如 SSM, RWKV, Liquid）的二次重估，甚至动摇 NVIDIA 软件生态的部分护城河。 行动建议 1. 技术选型预研：对于重度依赖长文本处理（如法律、医疗文档分析）的企业，应密切关注该模型的 API 开放及私有化部署方案，其推理成本可能远低于同规模 Transformer 模型。2. 算力配置调整：开发者应关注 LFM 对非 H100 硬件的适配性，Liquid 架构往往对显存带宽要求更低，这可能为国产算力或边缘端计算带来新机会。3. 基准测试警惕：不要仅看 MMLU 等静态分数，应重点测试其在长对话、复杂指令遵循以及推理延迟（TTFT）方面的表现。

核心事件 Liquid AI 近期发布了 LFM2.5-VL-3B 视觉语言模型，该模型拥有 3.1B 参数，量化后体积仅约 2GB。近日有开发者在移动设备（据称为 iPhone 17 测试环境）上成功实现了该模型的本地推理，通过摄像头识别出《我的世界》史蒂夫玩偶，标志着高性能非 Transformer 架构在边缘侧多模态任务中的关键进展。 ▶ 架构范式转移：Liquid AI 采用线性递归单元（LRU）架构，避开了传统 Transformer 在处理长序列和视觉输入时的 KV Cache 内存瓶颈，使 3B 级别的视觉模型能以 2GB 的极低显存占用适配手机。 ▶ 边缘侧多模态落地：尽管单次推理耗时达 151 秒，显示出当前移动端算力与复杂视觉推理之间的缺口，但其识别精度证明了小型化模型在本地处理复杂视觉语义的可行性。 八卦洞察 Liquid AI 的这次“秀肌肉”实际上是对 OpenAI 和 Google 主导的 Transformer 路线的一次有力挑战。在 AI 业界，大家都在谈论“内存墙”（Memory Wall），而 Liquid AI 的架构优势在于其恒定的状态空间复杂度。对于移动端和可穿戴设备而言，内存比算力更昂贵。LFM2.5-VL-3B 能够在 2GB 内存下运行，意味着它不仅是为手机准备的，更是为未来的 AR 眼镜和嵌入式设备量身定制。虽然 2 分半钟的推理延迟在用户体验上是灾难性的，但随着 NPU 算力的迭代，这种架构上的轻量化将成为端侧 AI 爆发的真正基石。 行动建议 1. 开发者侧：应开始关注非 Transformer 架构（如 SSM, Liquid, Mamba）的模型生态，特别是在资源受限的边缘计算场景，这些架构可能比单纯的 Transformer 量化更具效能比。 2. 硬件厂商：需加速针对非线性算子的硬件加速优化，未来的端侧 AI 竞争将不仅是算力（TOPS）的竞争，更是对多样化模型架构兼容性的竞争。 3. 企业应用：对于隐私敏感度高、需离线运行的视觉识别任务（如工业巡检、私人助理），Liquid AI 提供的轻量化视觉方案是目前值得调研的技术路径。

核心事件 Liquid AI 正式发布了 LFM2.5-2.6B 模型。这款仅拥有 26 亿参数的轻量级模型，在多项基准测试中展现出了足以比肩参数量大其 4 倍（约 10B 规模）模型的竞技水平，标志着非 Transformer 架构在效率边界上的又一次重大突破。 ▶ 以小博大：LFM2.5-2.6B 在保持极低推理成本的同时，性能直逼 Mistral-7B 甚至部分 13B 级别的 Transformer 模型。 ▶ 架构范式转移：基于 Liquid Foundation Models (LFMs) 架构，利用动力系统（Dynamical Systems）重构信息处理流程，显著优于传统注意力机制的内存效率。 ▶ 端侧 AI 新标杆：该模型为手机、PC 等硬件的本地化部署提供了“高性能+低功耗”的最优解，是 SLM（小语言模型）赛道的强力竞争者。 八卦洞察 Liquid AI 的这波操作是对“参数量即正义”这一教条的直接挑衅。作为 MIT CSAIL 的衍生团队，Liquid AI 并没有在 Transformer 的死胡同里打转，而是通过“液体神经网络”这种具备连续时间特性的架构，解决了长文本处理中的计算冗余问题。在当前大模型行业进入“Scaling Law 边际效应递减”的阶段，LFM2.5 的出现证明了：架构层面的算法红利远未枯竭。这不仅是技术的胜利，更是对算力霸权的一种解构——如果 2.6B 能打赢 10B，那么推理成本的下降将直接重塑 AI 应用的商业逻辑。 行动建议 对于开发者而言，应立即在 RAG（检索增强生成）和端侧高频交互场景中测试 LFM2.5，其长文本处理效率和低延迟特性可能带来代际级的体验提升。对于企业决策者，需重新评估对超大规模模型的依赖，转向“小而精”的垂直化部署方案。投资界则应高度关注 SSM（状态空间模型）和 Liquid Networks 等非 Transformer 路径，这可能是下一波技术爆发的奇点。

核心摘要 Liquid AI 提出了一种名为“最终 Token 偏好优化”（Final Token Preference Optimization, FTPO）的新算法，旨在通过在推理阶段直接优化最终输出结果的质量，有效解决大模型在长链条推理中陷入“末日循环”（Doom Loops）的顽疾。 八卦洞察 ▶ 从过程到结果的范式转移：当前主流的思维链（CoT）过于依赖中间推理步骤的准确性，一旦某个中间环节出错，模型便会陷入死循环。FTPO 强调对最终输出的直接反馈，类似于将强化学习的焦点从“步步为营”转向“终局获胜”。 ▶ 计算效率的博弈：该方法在不增加额外推理成本的前提下，通过对模型输出分布的微调，显著提升了模型在复杂逻辑任务中的鲁棒性，这对于追求极致推理效率的边缘计算场景具有重要意义。 行动建议 对于大模型研发团队：应重新评估现有的指令微调（SFT）流程，尝试将 FTPO 纳入训练管线，以减少模型在长文本生成中的逻辑坍塌。 对于 AI 应用开发者：在构建复杂推理 Agent 时，可优先考虑采用具备此类优化机制的模型，以降低因推理路径冗长导致的系统性故障风险。

事件核心MIT 衍生初创公司 Liquid AI 正式发布了其最新的 Liquid Foundation Models (LFM) 2.5 系列。其中最受瞩目的是 8B-A1B 模型，这是一个采用 Mixture-of-Experts (MoE) 架构的 80 亿参数模型，但在推理时仅需激活 10 亿参数。该模型最令人震撼的数据在于其训练规模：在高达 38 万亿 (38T) Token 的海量数据集上进行了训练。LFM 2.5 并非基于传统的 Transformer 架构，而是采用了 Liquid AI 独有的、基于动力系统（Dynamical Systems）的新型架构，旨在解决 Transformer 在长序列处理和推理成本上的固有缺陷。技术/商业细节LFM 2.5 的核心竞争力在于其极高的“数据参数比”。通常，Llama 3.1 8B 等模型使用约 15T Token 训练，而 Liquid AI 将这一数字推高到了 38T，这意味着模型对知识的压缩率和理解深度达到了新高度。在架构层面，LFM 避开了传统 Attention 机制的二次方复杂度，实现了线性缩放。这使得 8B-A1B 模型在拥有 128K 上下文窗口的同时，其内存占用远低于同级别的 Transformer 模型。在 Benchmark 测试中，LFM 2.5 8B 在多项指标上超越了 Meta 的 Llama 3.1 8B 和 Google 的 Gemma 2 9B，尤其是在编码（Coding）和长文本推理方面表现卓越。八卦分析：全球影响Liquid AI 的这次发布向业界释放了一个强烈信号：Transformer 可能并非 AI 的终局。长期以来，硅谷一直存在“架构焦虑”，即担心 Transformer 的推理成本会限制 AI 的大规模商业化。Liquid AI 证明了通过非 Transformer 架构（如状态空间模型 SSM 或其变体）配合极致的数据喂养，可以在更小的参数规模下实现更强的性能。这对于边缘计算（Edge AI）和端侧设备具有颠覆性意义。如果 1B 激活参数的模型能达到 8B 甚至更高参数模型的水平，那么智能手机和 IoT 设备将真正具备运行复杂逻辑的能力，而无需依赖昂贵的云端 GPU 集群。战略建议对于开发者： 重点关注非 Transformer 架构的适配。LFM 2.5 提供的推理效率优势，特别是在 KV Cache 压力巨大的长文本场景下，可能是降低 RAG 应用成本的关键。对于企业决策者： 重新评估“模型大小”与“模型能力”的关系。不要盲目追求千亿级参数模型，Liquid AI 的案例证明，经过超大规模数据精炼的小模型（SLM）在特定业务场景下具有更高的 ROI。对于硬件厂商： 关注非 Transformer 算子在芯片层面的优化。随着 Liquid AI、Mamba 等架构的兴起，单纯针对 Attention 优化的硬件架构可能面临兼容性挑战。