[ DATA_STREAM: %E6%9E%B6%E6%9E%84%E6%BC%94%E8%BF%9B ]

架构演进

SCORE
9.2

告别“漏斗”架构:Sona 单一 Transformer 彻底重塑 Yandex Music 推荐系统

TIMESTAMP // 10 月.05
#Transformer #机器学习 #架构演进 #生成式推荐

Yandex Music 团队近期披露了其全新的推荐系统 Sona。该系统通过单一的 Transformer 模型,成功取代了原有的 15 个以上候选生成器(Candidate Generators)以及复杂的多级预排序(Pre-ranker)和排序(Ranker)流水线。这一变革标志着推荐系统架构正在从传统的“漏斗式”多级过滤向“端到端生成式”范式演进。 ▶ 架构坍塌与统一:Sona 证明了生成式大模型架构(Generative RecSys)能够接管原本由数十个专门组件负责的任务,将异构的检索逻辑统一为序列建模问题。 ▶ 工程债的极限清理:通过消除 15+ 个独立的生成器,团队不仅提升了推荐的准确度,更大幅降低了维护多套特征工程和异构模型的系统复杂性。 八卦洞察 Sona 的成功标志着推荐系统领域正在经历与 NLP 类似的“大一统”时刻。长期以来,工业界推荐系统依赖于复杂的“召回-粗排-精排”三段式架构,每一层都存在信息损耗。Sona 采用 Transformer 直接处理用户行为序列并生成推荐,本质上是将推荐问题转化为了“下一个项目预测”(Next-item Prediction)。这种做法的硬核之处在于它打破了特征工程的桎梏:当模型规模和上下文窗口足够大时,Transformer 的交叉注意力机制能比传统 GBDT 或 MLP 模型更有效地捕捉用户意图。这预示着未来顶尖大厂的推荐系统将不再是“拼积木”,而是“训大模”。 行动建议 对于拥有大规模分发业务的企业,建议立即评估现有排序流水线的“技术肥胖”程度。首先,尝试将长序列建模引入召回阶段,测试其对长尾内容的覆盖能力;其次,关注“生成式推荐”在冷启动场景下的表现,利用 Transformer 的泛化能力替代硬编码的启发式规则。最后,算力分配应从维护零散的小模型转向支持单一强大的序列模型,实现架构的去碎片化。

SOURCE: REDDIT MACHINELEARNING // UPLINK_STABLE
SCORE
9.2

OpenAI 存储进化论:支撑 10 亿用户与 2200 万 RPS 的 Habitat 架构揭秘

TIMESTAMP // 9 月.11
#OpenAI #云原生 #分布式存储 #架构演进 #高并发

核心事件OpenAI 首次详细披露了其内部分布式存储平台 Habitat 的演进历程。为了支撑 ChatGPT 超过 10 亿的用户规模及每秒 2200 万次(RPS)的峰值请求,Habitat 从一个简单的 Python 库演进为基于 Go 语言的高性能、全球分布式服务集群。▶ 从“库”到“服务”的范式转移:OpenAI 将存储逻辑从应用进程中剥离,通过集中化的 Go 服务解决了 Python 在高并发下的连接池管理与性能瓶颈。▶ 混合云原生的抽象层:Habitat 在底层屏蔽了 DynamoDB 和 Redis 的复杂性,通过统一的 API 为 AI 研发人员提供了一致的存储体验,极大地提升了模型迭代效率。▶ 全球化单元架构:引入 Habitat Proxy 实现多集群路由与故障切换,确保了在全球范围内的高可用性与低延迟。八卦洞察OpenAI 的这份报告揭示了一个关键信号:AI 巨头的竞争重点正在从“算法领先”转向“工程工业化”。2200 万 RPS 的并发量意味着 OpenAI 已经步入了与 Google、Meta 同量级的超大规模基础设施俱乐部。Habitat 的演进路径实际上是 AI 研究向生产环境转化的缩影——从追求灵活性的 Python 脚本,转向追求极致稳定性的 Go 语言分布式系统。这种“基础设施产品化”的能力,是 OpenAI 能够快速响应用户增长、同时保持研发敏捷性的隐形护城河。行动建议架构解耦先行:对于处于增长期的 AI 初创公司,应尽早考虑将存储逻辑与业务逻辑解耦,采用 Proxy 模式来应对未来可能的多云或多区域扩展。重视工程抽象:不要让 AI 科学家直接操作底层数据库。构建类似 Habitat 的抽象层,可以降低研发心智负担,使团队专注于模型优化而非运维琐事。性能瓶颈预判:当并发达到万级以上时,Python 的连接管理将成为灾难。提前布局基于 Go 或 Rust 的高性能中间件是长久之计。

SOURCE: OPENAI NEWS // UPLINK_STABLE