同策蒸馏

核心事件总结Hugging Face 专家 Niels 指出，同策蒸馏（On-policy Distillation, OPD）已跃升为 PapersWithCode 最热门的技术术语，并成为 Qwen 2.5/3、GLM-4/5 以及 DeepSeek 系列等顶级模型提升推理与对齐能力的核心后训练（Post-training）技术。▶ 范式转移：大模型训练正从依赖静态数据集的离线蒸馏，转向基于模型自身生成分布的动态在线对齐，以解决分布偏移（Distributional Shift）难题。▶ 性能引擎：OPD 是国产大模型在数学、代码及复杂推理基准测试中逼近甚至超越 GPT-4o 的关键“秘密武器”。八卦洞察同策蒸馏的火爆，本质上标志着大模型竞争进入了“数据炼金”的下半场。传统的监督微调（SFT）和离线蒸馏存在严重的“曝光偏差”——学生模型在推理时一旦偏离了预设的训练路径，就会产生幻觉或逻辑崩溃。OPD 通过让学生模型在自己的预测空间内进行探索，并由更强的教师模型（或奖励模型）实时纠偏，极大地增强了模型的鲁棒性。这解释了为什么 DeepSeek 和 Qwen 能以较小的参数规模，在长链推理任务中表现出惊人的稳定性。这种技术路径的统一，意味着“暴力美学”正在让位于“精细对齐”。行动建议对于 AI 研发团队，建议立即评估现有的后训练流水线，将重心从单纯的 SFT 转向 OPD 与 RLAIF（AI 反馈强化学习）的结合。重点应放在构建高效的在线采样（Online Sampling）基础设施上，因为 OPD 的核心瓶颈已不再是计算量，而是如何在高吞吐环境下实现教师模型与学生模型的实时交互与反馈。对于企业应用层，应关注那些采用 OPD 技术的开源模型，它们在特定垂直领域的逻辑一致性通常优于传统微调模型。