Recursive Multi-Agent Systems

递归多智能体系统

一句话定位

提出 RecursiveMAS，一种基于轻量级 RecursiveLink 模块的递归多智能体框架，通过隐空间中的循环协作实现系统级性能扩展，相比文本交互方法提升推理效率并降低 token 消耗。

小学生也能听懂

这篇论文像让多个小机器人不说话，只在脑子里悄悄商量，用更少的步骤一起解题，比聊天方式更快更省力气，还更聪明。

为什么值得记录

• 首次将递归语言模型的隐空间迭代思想扩展到多智能体系统，实现系统级协同优化
• 提出 RecursiveLink 模块，支持跨异构模型的隐状态传递，避免重复解码带来的高开销
• 理论证明隐空间递归在运行时复杂度和梯度稳定性上优于文本介导的交互方式
• 在 9 个基准测试中平均提升 8.3% 准确率，同时实现 1.2–2.4 倍推理加速和 34.6%–75.6% token 节省

核心方法

• 设计双层 RecursiveLink 结构：内层用于单智能体隐思维生成，外层用于跨智能体隐状态对齐
• 构建闭环递归架构，所有智能体通过 RecursiveLink 串联成环，仅最后一轮输出文本结果
• 采用内外双循环训练策略：内循环预热各智能体的隐思维生成能力，外循环联合优化整个系统的递归链路
• 冻结基础 LLM 参数，仅训练轻量级 RecursiveLink 模块（两层残差投影），降低训练成本
• 支持四种典型协作模式：顺序推理、专家混合、知识蒸馏、工具集成 deliberation

关键结果

• 在 MATH500、AIME2025/2026、GPQA-D、MedQA、LiveCodeBench、MBPP+、HotpotQA、Bamboogle 共 9 个任务上评估
• 递归轮数 r=3 时，相比文本递归基线平均准确率提升 7.2%，端到端延迟降低 2.4 倍，token 使用减少 75.6%
• 在 Distillation 模式下，Learner 性能提升 8.0%，同时保持比 Expert 快 1.5 倍的推理速度
• 隐思维长度 m=80 时性能趋于饱和，表明适度隐状态传递即可实现有效协作

局限与风险

• 仅训练 RecursiveLink 模块，未对底层 LLM 进行微调，可能限制性能上限
• 实验中递归轮数最多为 3，更深递归下的扩展性需进一步验证
• 依赖高质量角色标注数据用于内循环训练，数据构造成本较高
• 目前仅支持固定协作模式，动态结构调整能力有限

适合沉淀的概念

recursive-multi-agent-system, latent-space-collaboration, recursive-link-module, inner-outer-loop-training, gradient-stability-in-recursion, runtime-complexity-analysis, heterogeneous-agent-coordination, latent-thought-generation

阅读注意

• 关注 Proposition 3.1 和 Theorem 4.1 的理论分析，理解为何隐空间递归优于文本交互
• 注意 Table 2 中递归轮数增加带来的性能与效率变化趋势
• 查看 Appendix D.2 对隐思维长度 m 的消融实验，了解信息传递粒度的影响
• 对比 Table 6–8 中不同协作模式下的表现，评估框架通用性

质量说明

• 采用来源：raw，raw/papers/2026/04/2604.25917.md
• 生成模型：LongCat-Flash-Chat
• 源材料判断：论文材料完整，包含方法设计、理论分析、实验设置、消融研究和案例展示，数据详实，结构清晰，可复现性强。