Cactus 发布端侧模型 Needle 3:主打纯函数调用能力

📡 Emad Mostaque2026-09-18 05:24

Cactus Compute发布端侧模型Needle 3,体积仅8-29MB且主打纯函数调用能力。

AI 深度解读

Cactus Compute 推出微型端侧基础模型 Needle 3,以 8MB 至 29MB 的极小体积主打纯函数调用与结构化提取能力,为超轻量边缘计算设备提供了自动化模型新选择。

  • 架构设计:采用梯级注意力网络架构,单套权重可按设备计算与内存资源在 2 至 20 层深度间动态切片调节。
  • 极致轻量:模型体积介于 8MB 至 29MB 之间,采用 Monarch Hadamard MLP 与分组查询注意力架构,适配微控制器与可穿戴设备。
  • 专精定位:剥离常规自然语言生成输出,专精于端侧工具调用与结构化数据处理。
  • 影响/看点:若其实际工具调用准确率能满足严苛逻辑要求,意味着物联网终端有望在无需云端 API 依赖的情况下实现低功耗本地智能控制。
  • 资料依据:
  • X:Emad Mostaque(2026-09-17):https://x.com/EMostaque/status/2100697342437446027
  • Cactus Compute 官方(2026-09-17):https://github.com/cactus-compute/needle

本内容由 AI 生成,仅供参考,请注意甄别

查看原文 ↗
看实时 AI 热点雷达 实时信息流 · 事件聚类 · 订阅推送 —— 完整产品在 aihot.aicxd.com
AI 助手