开源项目rec本地推理
一天一个开源项目(第246篇):rec —— Recursive 自研的本地推理引擎,在 Mac 上跑 Flint 编码模型,称比 llama.cpp 快 1.4–2.6 倍
rec 是 recursive-oss 开源的本地推理引擎,专门在 Apple Silicon Mac 上运行 Recursive 公司的 Flint 语言模型,面向单会话的编码智能体场景。一条命令安装,rec launch pi / opencode 即可启动,同时提供 OpenAI 与 Anthropic 兼容的本地 API。项目自述在 M4 Pro 上吞吐为 llama.cpp 的 1.4–2.6 倍。Apache-2.0,151 Stars。
·约 10 分钟阅读