---
title: "What Deserves Memory: Adaptive Memory Distillation for LLM Agents"
title_zh: "Nemori：基于预测误差的自适应记忆蒸馏框架"
arxiv_id: "2508.03341"
paper_type: "method"
source_kind: "clean"
raw_path: "raw/papers/2025/08/2508.03341.md"
generated: "2026-05-11"
model: "LongCat-Flash-Chat"
quality: "ok"
---

# Nemori：基于预测误差的自适应记忆蒸馏框架

## 一句话定位

提出Nemori框架，通过预测误差实现LLM代理的自适应记忆蒸馏，以数据驱动方式识别值得保留的信息，提升长期交互性能与效率。

## 小学生也能听懂

这篇论文发明了一个叫Nemori的记忆系统，它像聪明的笔记本，能自动记住重要的事、忘掉重复的内容。它通过看“预测对不对”来判断信息值不值得记，让AI在长时间聊天中更聪明、更省空间，还能和其他记忆工具一起用。

## 为什么值得记录

- 解决了现有记忆系统依赖人工启发式规则（如重要性评分、情感标签）导致的主观偏差与信息冗余问题
- 首次将预测编码理论（Predictive Coding Theory）引入LLM代理记忆设计，以‘可预测性即冗余’为核心原则
- 在LoCoMo和LongMemEval_S基准上显著优于主流记忆系统，尤其在时序推理任务中表现突出
- 支持与第三方管理系统（如A-MEM、MemoryOS）无缝集成，实现45–64%存储压缩且性能不降
- 提供完整开源实现，具备生产级可用性

## 核心方法

- 框架分为两个级联模块：情景记忆整合（Episodic Memory Integration）与语义知识蒸馏（Semantic Knowledge Distillation）
- 情景记忆整合包含三步：局部消息划分（基于LLM识别自然交互边界）、叙事化情节生成（将原始对话转为结构化叙述）、关联记忆融合（跨窗口合并相关情节）
- 语义知识蒸馏采用‘预测误差’机制：先由现有知识合成预期模式（Anticipatory Schema），再提取实际交互中偏离该模式的信息作为新知识
- 定义通用接口Evoke()与Consolidate()，使框架对底层管理系统保持无关性，支持原生或第三方系统接入
- 响应生成阶段并行检索top-k情景记忆与top-m语义记忆，拼接后送入LLM生成答案
- 引入三大归纳偏置：结构先验（情节完整性）、表征先验（视角非对称性）、蒸馏先验（可预测性蕴含冗余）指导系统设计

## 关键结果

- 在LoCoMo数据集上，Nemori平均LLM评分达80.8（gpt-4.1-mini）和73.0（gpt-4o-mini），分别超越最强基线10.1%和19.1%
- 时序推理任务表现尤为突出：gpt-4.1-mini下LLM评分77.3，相对A-MEM提升15.9%；gpt-4o-mini下67.6，相对Zep提升14.8%
- 记忆构建成本显著降低：相比Mem0，LLM调用减少59.5%，总token消耗下降38.7%
- 响应生成效率优异：平均使用2,745 tokens（较Full Context减少88%），端到端延迟3,053ms（较Full Context降低47%）
- 与第三方系统集成时，A-MEM和MemoryOS的存储占用分别减少64.3%和53.1%，核心任务性能仍提升1.9–6.1%

## 局限与风险

- 开放域问答性能略逊于部分基线，因该类任务依赖模型先验知识而非仅记忆质量
- 当前实现依赖商业LLM API（如gpt-4o-mini）进行提示执行，未验证开源模型效果
- 预测误差蒸馏可能遗漏低频但重要的长期依赖信息
- 未在超大规模（>1M tokens）对话场景下测试扩展性

## 适合沉淀的概念

`predictive-coding-theory`, `memory-distillation`, `episodic-memory-integration`, `semantic-knowledge-distillation`, `prediction-error-based-learning`, `complementary-learning-systems`, `adaptive-memory-management`, `llm-agent-memory`

## 阅读注意

- 重点关注第3.1节三大先验如何从认知理论转化为工程约束
- 注意Table 1对记忆系统分类的清晰界定，理解‘蒸馏时’vs‘管理时’评估的区别
- Appendix B.1展示了Nemori如何将相对时间表达（如‘昨天’）转化为绝对事实，体现‘记忆形成中推理’的优势
- Table 10显示直接蒸馏（Nemori-s）性能远低于预测误差蒸馏，验证核心机制有效性
- Table 15证明即使存储大幅缩减，语义记忆仍能维持甚至提升下游系统性能

## 质量说明

- 采用来源：`clean`，`papers/2025/08/2508.03341.md`
- 生成模型：`LongCat-Flash-Chat`
- 源材料判断：论文材料完整，包含方法细节、实验设置、消融研究、第三方集成验证及完整附录，数据充分支持结论。