Sipp

Sipp 是浏览器本地 LLM 推理库，目标是提升小模型 decode 速度。digest 信息显示它关注端侧推理，而不是把请求代理到云端 API，因此关键挑战会落在 Web runtime、WASM/WebGPU、内存布局和 token loop 上。它代表了一类小模型应用方向：用浏览器本地执行换取离线、隐私和低延迟交互。