EricLBuehler/mistral.rs

mistral.rs 是 Rust 编写的跨平台 LLM inference engine，支持 text、vision、image generation 和 speech。README 摘要列出 Rust SDK、Python package、OpenAI-compatible HTTP server、Responses API、MCP server，并有 Anthropic-compatible endpoint 相关文档。它适合想在 Rust 生态里做本地或服务端推理的人。项目看点在于模型覆盖、API 兼容和性能工程三者并行。