Fastest Enterprise AI Gateway

Bifrost 是 MaximHQ 的 AI gateway，用单一 OpenAI-compatible API 统一 23+ providers，包括 OpenAI、Anthropic、AWS Bedrock、Google Vertex、Azure、Groq、Ollama 等。README 标称它比 LiteLLM 快 50 倍，在 5k RPS 下开销低于 100 微秒，并带自动 fallback、load balancing、semantic caching、MCP gateway、governance、Prometheus metrics 与 distributed tracing。它把多模型接入从 SDK 层问题提升为高吞吐、可观测、可治理的网关问题。