Reame

Reame 是一个 CPU inference server，目标是在运行过程中通过缓存、适配或类似机制提升后续推理速度。它的设计重点是把优化嵌入服务生命周期，让真实请求分布成为性能改进的输入。这个思路适合本地和低成本推理场景，但效果会高度依赖请求重复度、模型负载和缓存策略。