RyanCodrai/turbovec

turbovec 是基于 TurboQuant 的 Rust 向量索引，并提供 Python bindings。README 称 1,000 万文档 float32 corpus 需 31GB RAM，而 turbovec 可放进 4GB；2-bit 下 1536 维 FP32 向量从 6,144 bytes 压到 384 bytes。它支持在线 ingest、搜索时 allowlist 过滤和 SIMD scoring；ARM 上比 FAISS FastScan 快 10-19%，OpenAI d=1536/d=3072 的 R@1 比 FAISS 高 0.2-1.9 points，适合本地 RAG 的内存/延迟约束场景。