Infinite-Parameter LLMs: Generating and Adapting Weights from Live Data

compact hypernetwork 将会话数据编译为共享模型的低秩权重调制，并持续更新 latent code 的 Bayesian belief。与每轮重读 prompt 后丢弃知识相比，这种做法把运行时事实摊进计算、释放上下文并跨轮持久化；论文同时提出要和 in-context learning、检索做严格对照。