知识分享

一天一个开源项目（第202篇）：Needle 2 - 14MB 的端侧工具调用模型

Needle 2 是 Cactus Compute 开源的 45M 参数工具调用模型，整体打包为 14MB 单一二进制，运行仅需 28MB 内存，在三星 A 系列手机上也能跑到 300+ tok/s。在工具调用基准上与 FunctionGemma 270M 持平，体积却只有后者的 1/6。