字节跳动

字节跳动近日开源了原生统一多模态模型 Lance。该模型仅拥有 30 亿（3B）激活参数，却能在单一框架下高效完成图像与视频的理解、生成及编辑任务，在多项基准测试中展现出极强的竞争力。 ▶ 架构范式转移：Lance 摒弃了传统多模态模型中常见的“拼凑式”架构，采用原生统一框架，实现了理解与生成任务在同一表征空间下的深度融合。 ▶ 极致能效比：通过从零开始的阶段性多任务训练方案，Lance 在 3B 规模下实现了对标大尺寸模型的性能，为端侧 AI 的全能化提供了新路径。 八卦洞察 字节跳动此举意在抢占端侧 AI（Edge AI）的战略高地。在当前大模型动辄千亿参数的背景下，Lance 的出现标志着技术重心正在向“高集成度、低功耗”转移。Lance 不仅仅是一个研究项目，它更像是为 TikTok 或剪映（CapCut）量身定制的底层引擎。通过在 3B 规模下集成视频编辑与生成能力，字节正在试图将复杂的专业创意工作流“平民化”，并将其推向移动端。这种“小而全”的策略，反映了字节在算力成本优化与用户体验闭环上的深层考量。 行动建议 对于开发者而言，应重点关注 Lance 的权重释放进度，评估其在低功耗设备（如手机、PC 边缘端）上的推理表现，尝试将其作为实时音视频交互应用的底层模型。对于企业用户，建议探索基于 Lance 的垂直领域微调，利用其原生的统一性构建更流畅的自动化内容生产管线，而非继续堆叠多个独立的视觉模型。

核心事件字节跳动 Seed 团队近期开源了 Cola-DLM（Continuous Latent Diffusion Language Model），这是一种分层连续潜空间扩散语言模型，通过结合文本 VAE 与块因果扩散 Transformer (DiT) 架构，利用流匹配（Flow Matching）技术实现了在连续潜空间内的文本生成，标志着大模型架构从纯自回归（AR）向扩散范式的进一步演进。▶ 架构范式转移：不同于传统的逐 Token 自回归预测，Cola-DLM 将文本映射到连续潜空间，利用 DiT 作为先验进行生成，试图解决离散空间生成的局限性。▶ 技术栈融合：模型集成了 VAE 的压缩能力与 DiT 的扩展性，并采用流匹配算法优化潜变量传输，显著提升了生成效率与质量。▶ 字节跳动战略布局：此举显示了字节在非自回归架构上的深厚储备，旨在探索比肩甚至超越 GPT 架构的新一代生成基座。八卦洞察Cola-DLM 的出现实际上是文本生成的“Stable Diffusion 时刻”。长期以来，NLP 领域一直被自回归架构统治，但图像生成领域早已证明了潜空间扩散（Latent Diffusion）在处理复杂分布和高维度数据上的优越性。字节跳动此举意在打破自回归模型的“曝光偏差”和计算瓶颈。通过将离散 Token 连续化，模型能够更灵活地处理全局信息。这不仅是学术上的探索，更是对未来多模态统一架构（如统一文本与视频生成的潜空间）的提前卡位。行动建议对于算法工程师，建议深度研究其流匹配（Flow Matching）在潜空间的应用，这可能是未来长文本生成和受控生成的关键技术；对于企业决策者，应关注非 AR 架构在特定垂直领域（如代码生成、结构化文档）的落地潜力，评估其在推理成本和生成多样性上的竞争优势。