superlinked/sie

SIE 用一个 OpenAI 兼容 API 和集群承载 100 多种模型，按请求加载并通过 LRU 回收，覆盖 embeddings、chat/completions、responses、搜索、OCR/文档转 Markdown、结构化输出和 guard。平台层包括 gateway、KEDA 自动扩缩、Grafana 与面向 GKE/EKS/AKS 的 Terraform；为隔离互不兼容的依赖，它采用模型专用镜像。相较单机模型启动器，它处理的是异构模型目录的调度与观测，不过大规模能力也意味着镜像供应链和冷启动会成为主要运营变量。