Janus

Janus 是 Go 编写的本地 GGUF runner/router，Vulkan 路径覆盖 AMD、Intel、NVIDIA，另有 CPU 和 Ollama 后端；同一进程提供 OpenAI 兼容 API、Web UI、ReAct kernel、文件/命令/PDF/OCR 工具。README 给出的部署约束很具体：Windows 构建脚本负责 llama.cpp Vulkan DLL，默认端口 8990，模型首载通常需 10 - 60 秒；这使它更像可嵌入的本地服务而不只是聊天界面。