概念导读
GPT-Driver 框架将驾驶场景表示为语言 prompt,用 CoT 生成 waypoint 轨迹。
- 背景
- 方法对比
- 关键结论
- 与 Wiki 的关联
- Related
On-Policy Distillation 在自动驾驶运动规划中的应用
背景
GPT-Driver 框架将驾驶场景表示为语言 prompt,用 CoT 生成 waypoint 轨迹。 部署大 LLM 到车载系统受资源限制,需要蒸馏到小模型。
方法对比
- On-policy GKD: Student 在自身输出上训练,用 teacher 的 dense token-level feedback
- Dense-feedback RL baseline: Teacher 的 log-probabilities 作为 per-token reward
关键结论
- GKD 大幅超越 RL baseline,接近 teacher 性能(5x 模型压缩)
- 证明了 on-policy distillation 在具身智能场景的有效性
- Dense token-level KL 反馈优于 scalar reward signal
与 Wiki 的关联
这是 on-policy-distillation 在具身智能领域的 直接应用案例, 与 qwen3-omni Thinker 的 on-policy distillation pipeline 理念一致。