cactus-compute/needle

Needle 面向手机、可穿戴设备和嵌入式硬件执行工具调用，模型只有 45M 参数，CQ2 二进制约 14 MB，运行内存约 28 MB。它用字节级 grammar 约束函数与参数格式，以置信度头决定是否调用工具，并先检索最相关的 5 个工具；256-token 滑动窗口把工具定义固定为 KV sinks。与通用小模型相比，它把容量集中在受约束动作生成上，代价是开放问答能力和复杂长上下文并非设计重点。