每日 Harness 开源 · Source
返回本期 · Back to 2026-07-04

博客文章 · Blog Posts2026-07-04 · Saturday, July 4, 2026

14× faster embeddings: how we rebuilt the ONNX path in Manticore

manticoresearch.com原文 ↗

14× faster embeddings: how we rebuilt the ONNX path in Manticore
Manticore Search 介绍重建 ONNX embedding 路径后获得 14 倍加速。优化集中在推理管线本身,包括减少数据转换、改进批处理和让向量生成更贴近搜索引擎执行模型。它提醒工程团队,embedding 性能不只由模型决定,周围的数据路径和执行器同样可能是主要瓶颈。
浏览

评论 · Comments