2.5. 什么是加载/存储单元?(LSU)

加载/存储单元 (Load/Store Unit, LSU) 负责向 GPU 的内存子系统分派加载或存储数据的请求。

H100 流式多处理器(SM)的内部架构图。 加载/存储单元 (Load/Store Units) 与 特殊功能单元 一同以粉色标注。修改自 NVIDIA 的 H100 白皮书

对于 CUDA 程序员 而言,最重要的是加载/存储单元直接与流式多处理器 (Streaming Multiprocessor) 的片上 SRAM L1 数据缓存 交互,并间接与片外设备上的 全局内存 (global RAM) 交互,这两者分别对应 CUDA 编程模型 (CUDA programming model)内存层次结构 (memory hierarchy) 的最低层和最高层。