NVIDIA/Model-Optimizer

NVIDIA Model Optimizer 将量化、剪枝、蒸馏、稀疏化、推测解码和部署导出整合为一套模型优化库。它覆盖 PyTorch 到 TensorRT-LLM 等路径，目标是在训练后或微调阶段压缩模型，同时保留硬件友好格式。统一工具链减少了多个优化器之间的格式转换，但最优配置仍依赖具体 GPU、延迟目标与精度容忍度。