Acrab 发布边缘 AI 终端 SoC GΞLIX 1,支持 100B 模型本地运行
Acrab发布5nm边缘AI SoC GΞLIX 1,支持100B参数模型本地运行,AI算力650TOPS。
AI 深度解读
初创企业 Acrab 发布首款边缘 AI 终端 SoC GΞLIX 1,基于 5nm 制程,支持 100B 参数模型本地运行,AI 算力达 650TOPS。
- GΞLIX 1 采用异构设计,包含 20 核 Arm CPU、3TFLOPS GPU、NPU 等,配备 8MB L1 缓存和 256-bit LPDDR5X 内存。
- 通过矢量硬件加速注意力机制,在 Gemma 26B A4B 配置下预填充速率达 1416.8 Token/s,是苹果 M4 Pro 的 7.5 倍。
- 提供完整软件堆栈和智能体参考设计,并已打造第一方终端设备 Agent Box。
- 看点:GΞLIX 1 将大模型推理能力推向边缘设备,可能推动 AI 终端应用爆发,挑战云端推理主导地位。
本内容由 AI 生成,仅供参考,请注意甄别