问答
围绕具体问题沉淀下来的研究回答,共 5 个页面。列表展示摘要、主要小节和标签,方便快速判断是否值得进入详情。
On-Policy Distillation vs SFT 的优势与指标差距
Question: on policy distillation相比sft的话有什么优势啊?指标差距多大
✅ 核心优势(vs SFT)📊 指标差距(Qwen3 系列,Avg@12)🔬 关键原因分析💡 结论
OPD 技术中 Student/Teacher 是否需要同一 Tokenizer
Question: 所有的on policy distillation技术里面student和teacher都需要是一套tokenizer吗
Related
Qwen3 中的 On-Policy Distillation 做法
Question: qwen3里面的on policy distillation有用到吗?用到的话具体是什么做法
Qwen3 中的 On-Policy Distillation:有,且是关键环节具体做法(来自 §4 Post-training)与纯 Off-Policy 的区别补充:与 Qwen3 整体流程的关系
Qwen3 技术要点总览
Question: 关于qwen3的技术提到过吗
关于 Qwen3 技术:已详细记录 ✅涵盖的核心技术要点:与On-Policy Distillation知识库的关联Related
Qwen3 语音家族深度解析
Qwen3 (基础 LLM)
家族树技术传承链Audio Encoder: AuT 的演进语音生成: 从 Diffusion 到 ConvNet