MCompassRAG: Topic Metadata as a Semantic Compass for Paragraph-Level Retrieval

MCompassRAG 用 topic metadata 作为 paragraph-level retrieval 的“语义指南”，解决小 chunk 检索空间膨胀和大 chunk embedding 混杂多个主题的问题。它把主题信号放进同一 embedding space，并通过 LLM-teacher distillation 训练轻量 retriever；六个复杂检索 benchmark 上，信息效率平均提升 8.24%，延迟比最强高效 RAG 基线低 5 倍以上。看点是 topic metadata 被用于推理时零额外 LLM 调用的检索路由，而不是只做离线标注。