快科技9月11日消息,继CPU、GPU之后,高通正式公布了新一代旗舰处理器的HexagonNPU。

针对这一趋势,作为专为终端侧智能体AI打造的新一代HexagonNPU,引入了两项关键变化,分别是ElementAccelerator以及更大共享内存系统。ElementAccelerator是此次架构升级的核心,针对Transformer工作负载进行了专门优化,并结合向量计算单元与标量计算单元。配合FastActionLoops和KV-Cache加速,支持最长32K的上下文长度。对此新一代HexagonNPU引入的更大共享内存系统,容量较前代增加50%,让模型状态、上下文信息和KV-cache数据存储在更靠近加速器的位置,减少对外部内存的访问频次。高通还正与领先的内存和模型厂商合作,把MoE混合专家模型引入终端侧AI架构,让大参数模型在端侧运行成为可能。