π 2 \pi^{2} : Structure-Originated Reasoning Data Improves Long-Context Reasoning Ability of Large Language Models

π²：基于结构化数据的推理数据提升大模型长上下文推理能力

一句话定位

提出一种从维基百科表格生成高质量长上下文推理数据的流水线 π²，通过结构化扩展、双路径验证和反向翻译生成推理轨迹，显著提升模型在多跳分析任务上的表现。

小学生也能听懂

这篇论文像用乐高搭桥：从维基百科的表格里造出“推理练习题”，让AI学会像侦探一样一步步找线索（比如先查表再算数），还用两种方法验答案对不对，最后只靠100道好题就让小AI变聪明了。

为什么值得记录

• 解决了现有长上下文推理数据缺乏真实多跳分析场景的问题，填补了结构化数据驱动推理数据生成的空白
• 提出的双路径（SQL + Python）答案验证机制确保标签可靠性，减少幻觉风险
• 反向翻译生成的推理轨迹使模型学会从无结构文本中模拟真实分析流程，增强泛化能力
• 实验表明即使仅用100个高质量样本也能带来显著提升，验证了数据效率
• 支持自蒸馏，小模型可利用自身生成的推理轨迹持续改进，具备可持续优化潜力

核心方法

• 从维基百科采集表格并进行合成列扩展，引入外部知识以超越单文档记忆
• 基于表格生成多跳分析问题，并自动生成可执行的SQL查询作为初步答案
• 使用独立Python脚本复现答案，通过LLM判断双路径结果一致性以验证正确性
• 构建包含证据页与相关搜索结果的压缩上下文（最长96K token），确保信息完整
• 采用反向翻译策略：在隐藏原始表格的前提下，让LLM根据自然语言上下文生成逐步推理轨迹
• 使用LoRA对gpt-oss-20b和Qwen3-4B-Instruct-2507进行监督微调，训练样本共922个
• 构建独立评估集π²-Bench，经人工审核保证难度与真实性

关键结果

• π²-20B-A3B 在5个基准测试上平均提升+4.3%（低推理努力）和+4.32%（高推理努力）
• π²-4B 平均提升+2.7%，在LongSeal上达到40.94分，优于基线7.87点
• 仅用100个高质量样本训练即可实现+1.34%至+2.85%的平均提升，证明数据高效性
• 自蒸馏在低推理努力下有效（+4.4%），但在高推理努力下失效，提示推理模式迁移存在边界
• 在LongSeal和OfficeQA等强推理任务上，π²-20B-A3B缩小了与更大模型（如Qwen3.5-35B）的差距

局限与风险

• 上下文长度限于128K以内，未验证百万级token场景下的有效性
• 约17%的生成样本仍需人工修订，自动化质量控制仍有改进空间
• 仅评估了上下文问答任务，未测试检索、自由生成等其他长上下文能力
• 训练仅使用LoRA+SFT范式，未探索PPO、GRPR等更复杂策略
• 递归语言模型（RLM）对比实验因工具包限制未能完整完成，协同效应尚不明确

适合沉淀的概念

long-context-reasoning, structured-data-to-qa, dual-path-verification, reasoning-trace-back-translation, self-distillation-with-reasoning, synthetic-table-expansion, multi-hop-analytical-questions, pi-squared-pipeline

阅读注意

• 关注双路径验证如何提升答案可靠性：SQL与Python独立实现交叉检验
• 注意反向翻译阶段刻意隐藏原始表格，迫使模型依赖非结构化文本推理
• π²-Bench的构建过程体现质量控制标准：复杂度≥4且经人工校验
• 自蒸馏结果差异提示推理努力程度影响知识迁移效果
• 输出长度分析显示微调后模型生成更接近教师模型的推理风格

质量说明

• 采用来源：raw，raw/papers/2026/04/2604.05114.md
• 生成模型：LongCat-Flash-Chat
• 源材料判断：论文提供了完整的方法描述、实验设置、消融分析和开源计划，数据与模型均公开，实验设计严谨，统计显著性检验充分，材料完整可信。