把内存搬进计算单元:存算一体架构走到哪一步
- 为什么搬运成了瓶颈
- 在阵列里做乘法
- 从样品到量产的距离
- 谁最需要它
- 一项长期工程
为什么搬运成了瓶颈
过去二十年,处理器的算力增长远快于内存带宽的提升,两者之间的落差被称为存储墙。每一次运算都要把数据搬进搬出,搬运消耗的时间与能量甚至超过了运算本身。
在图像识别、语音处理这类以矩阵乘法为主的任务里,搬运的占比更高。于是业界的思路从优化搬运转向取消搬运:让存储单元自己完成乘加。
在阵列里做乘法
存算一体的做法是把计算单元嵌入存储阵列的边缘,利用阵列内的计算电路在一次读操作中完成多行数据的加权求和,一个时钟周期就能算出上百次乘加。
这种方式的能效比很高,因为数据不出阵列。代价是精度受器件噪声与工艺偏差影响,需要用校准与冗余设计补回来,数字后处理也必不可少。
从样品到量产的距离
早期演示多停留在小容量阵列,如今已有产品把存算模块做成加速卡,用于端侧的持续感知任务,例如始终在线的语音唤醒与视觉检测。
真正的难点在软件:编译器需要理解阵列的物理布局,把算子映射成合适的行列操作。没有成熟的工具链,硬件再快也难以被调用。
谁最需要它
对功耗极敏感的端侧设备最积极,例如佩戴式传感器与车载视觉模块,它们的电池容量有限,而计算需求持续增长。
数据中心则更谨慎,通用性要求高,存算阵列擅长固定形状的运算,遇到复杂模型仍需与传统加速器配合,形成混合架构。
一项长期工程
从器件、电路到编译器,存算一体是一条跨学科的长链条,任何一环的短板都会拖慢整体进度。
它未必会取代现有架构,但很可能在某些特定场景里成为默认选项。技术演进的常态,往往不是替代,而是分工。
读者留言 共 4 条
把搬运省掉这个角度说得很清楚,比堆参数实在。
精度和工具链这两道坎讲得到位,不只是画饼。
端侧先落地这个判断挺符合实际。
混合架构可能才是常态,认同这个说法。