近日,新加坡AI基础设施初创企业Acrab举办线上新品发布会,重磅推出终端智能硬件Agent Box,同步首发自研首款边缘AI SoC芯片GΞLIX 1,为新品提供核心算力支撑。Acrab成立于2024年,定位为“为下一代智能系统构建Agentic AI计算基础设施”,目前已累计筹集超3.5亿美元融资,聚焦端侧智能体底层技术攻坚。本次发布会集中亮相四大核心技术亮点,分别为Prefill预填充优化、统一内存架构、CPU-NPU异构协同、上层智能体编排能力,四项技术层层递进、软硬联动,共同支撑产品实现端侧智能体系升级,也印证了行业核心变革趋势:端侧AI发展逻辑已全面迭代,从过去单一设备短时运行模型,进阶为硬件、算力、算法协同的长效自主智能系统,重塑边缘人工智能产业发展格局。
长期以来,端侧AI行业陷入单一算力内卷误区,行业竞争普遍聚焦参数大小、模型能否落地,忽视系统调度、数据流转、长效运行的核心价值。传统终端AI方案普遍存在内存资源割裂、数据搬运冗余、推理时延偏高、多任务调度能力弱等痛点,设备仅能被动执行单次指令、短时运行模型,只能完成“生成答案”的辅助性功能,无法适配智能体持续拆解任务、自主联动设备的作业需求,难以支撑常态化、闭环化的端侧智能服务,这也是制约Agentic AI规模化落地的关键瓶颈。正如Acrab CEO Dr. Ken Phua所言:“生成式AI帮助人们找到答案。Agentic AI将帮助他们完成任务。”精准点明两代AI产业的核心差异。
本次发布的GΞLIX 1芯片与Agent Box整机,依托多项针对性技术优化破解行业痛点。其中Prefill预填充优化是核心性能亮点,芯片通过矢量硬件加速注意力机制,专项优化首Token延迟(TTFT),大幅缩短模型启动与响应耗时。在配备40k KV缓存、10k Token输入的Gemma 26B A4B测试配置下,GΞLIX 1预填充速率可达1416.8 Token/s,性能达到苹果M4 Pro Mac Mini的7.5倍,大幅拉高端侧设备大模型实时推理能力,适配本地高频交互、连续对话、实时任务处理场景。
硬件架构层面,GΞLIX 1搭载高规格统一内存体系,彻底解决传统终端CPU、NPU内存独立、数据搬运损耗大的问题。芯片配备8MB大型L1缓存、共享L2缓存,带宽可达768GB/s,同时搭载256-bit 8533MT/s规格的LPDDR5X共享内存,实现全算力单元内存资源互通共享,有效减少数据重复读写、跨单元传输冗余,极大提升端侧数据流转与吞吐效率。在此基础上,设备实现全新的CPU-NPU异构协同逻辑,区别于传统简单的算力分配模式,Acrab重点强调CPU重回AI时代核心地位,智能体所需的任务拆解、条件判断、系统调度、工具调用、多设备联动等复杂逻辑高度依赖CPU统筹,NPU专注AI推理算力输出,二者精准分工、深度协同,适配智能体复杂任务闭环需求。
发布会核心突破在于底层算力架构与上层智能体编排的深度耦合,官方将Agent Box定义为“第一个不是为了运行程序,而是为了承载智能而设计的系统”。产品搭载专业Agent编排层,可精准理解用户目标、自动拆解多级任务步骤、协调智能体与终端设备联动执行,完成持续性、闭环式的系列作业,摆脱传统终端被动执行指令的局限。摒弃此前“自主思考”的文学化表述,其核心价值在于具备目标理解、任务拆解、协同调度、持续执行的系统化智能能力,真正实现端侧设备从“运行单一模型”到“承载整套智能系统”的质变。
本次新品同时带来极具差异化的产品与商业模式革新。Agent Box核心定位为私人、始终在线的端侧AI中心,主打本地化长效驻机运行,无需依赖云端反复调用,通过一次性硬件投入,替代传统云端按次计费的Token付费模式,彻底告别云端Token消耗焦虑,大幅降低长期智能应用成本。这一定位也重新定义了端侧芯片与终端的研发逻辑:过往行业一味堆叠算力参数,而未来端侧AI的核心竞争力,聚焦高速数据流转、精细化任务调度、软硬一体化协同、长效稳定运行能力,适配智能体全天候、持续性的作业需求。
业内人士表示,Acrab软硬一体的新品发布,为全球端侧Agentic AI产业提供全新落地范式。随着生成式AI迈入智能体时代,产业竞争从模型性能比拼转向系统能力竞争,单纯算力内卷已无长期价值。Acrab通过自研GΞLIX 1芯片打底,结合精准的预填充优化、高端统一内存架构、CPU核心主导的异构协同与专业智能体编排,构建起完整的端侧智能运行体系。同时依托一次性投入的轻量化商业模式,有效降低端侧长效智能应用门槛,推动端侧AI从单点技术突破迈向系统化、常态化、低成本的商用新阶段,为下一代始终在线、自主闭环的终端智能生态筑牢软硬件根基。