Turboquant.cpp

turboquant.cpp 用约 400 行 C++23 实现 TurboQuant 在线向量量化，把高维 float vector 压成每坐标 1-4 bit 整数，不需要训练、预处理或 codebook learning。库提供 QuantizerMSE 和 QuantizerProd，后者给出 unbiased inner product estimate；README 称两者失真在信息论下界约 2.7 倍内。Apple M4 Max 单线程 benchmark 里，1536 维 1bit MSE 压缩比 31.3x，限制则是 O(d^2) rotation matrix、暂无 SIMD 和 bitwidth 仅 1-4。