Context Recycling for Long-Horizon LLM Inference

ContextForge 通过 structured query generation、external memory retrieval 和 controlled synthesis 回收长对话中的任务相关上下文。论文使用 15-turn healthcare query benchmark，覆盖多轮推理、回指和 domain shifts；相同底层模型下，它减少 token 消耗并提升一致性，同时保持相近准确率。它提供了一条不扩大 context window、不重训模型的长程推理工程路线。