概念导读
混合策略蒸馏方法，结合多种蒸馏策略以平衡不同训练目标。仅有 abstract 可用，全文尚未公开。
- 定义
- 核心思路
- 混合策略
- 与现有方法的关联
- 已知信息
- 开放问题
- Related
Hybrid Policy Distillation for LLMs
混合策略蒸馏方法，结合多种蒸馏策略以平衡不同训练目标。仅有 abstract 可用，全文尚未公开。
定义
Hybrid Policy Distillation 提出一种混合策略蒸馏框架，融合多种蒸馏策略（如 KL 约束、reward-weighted、self-distillation）以在不同训练阶段和不同样本上自适应地选择最优蒸馏方式。
核心思路
混合策略
- 不是单一蒸馏策略，而是多种策略的组合
- 可能包括：KL 对齐、reward 加权蒸馏、self-distillation 等
- 根据样本特征或训练阶段动态切换蒸馏策略
与现有方法的关联
- 与 hybrid-distillation-policy-optimization (HDPO) 共享"混合"理念
- HDPO 专注于"悬崖 prompt"的特权自蒸馏
- Hybrid Policy Distillation 可能更通用
已知信息
- 目前仅有 abstract 可用，全文尚未公开
- 无法获取详细方法、实验设置和结果
- 等待全文发布后补充细节
开放问题
- 混合策略的具体组成和选择机制是什么？
- 与 HDPO、SCOPE 等其他混合方法的关系和差异？
- 在不同任务和模型规模上的表现？