迈向开放指令集架构超级计算:RISC-V、Arm 和 x86 架构在 HPC 工作负载上的比较研究
技术分析
摘要
本研究评估了 Sophgo SG2044 RISC-V 处理器与已有的 Arm (NVIDIA Grace CPU Superchip) 和 x86 (Intel Xeon Platinum 8480+) 架构在高性能计算 (HPC) 工作负载上的表现。研究采用一致的软件栈和方法,对 SG2044 在综合基准测试 (STREAM, HPL, HPL-MxP, HPCG) 以及科学/AI 应用 (iPIC3D, PLUTO, OpenFOAM, llama.cpp) 中的特性进行了描述。尽管 SG2044 由于较窄的向量资源和不够先进的工艺节点,绝对性能低 8-15 倍,但它在多个工作负载上展现出有竞争力的扩展性和能效。值得注意的是,在 LLM 推理解码中,64 核 SG2044 相较于 Intel 和 NVIDIA 均实现了卓越的相对扩展性和能效,甚至在吞吐量上超越了 Intel。该论文还强调了 Monte Cimone RISC-V 项目内部显著的代际改进,MCv3 (SG2044) 相较于 MCv1 展现出高达 158 倍的 FP64 性能提升和 10 倍的能效提升。研究结果表明,RISC-V 处理器正在逐步缩小在各种 HPC 场景中的性能差距。
核心要点
- 对 Sophgo SG2044 RISC-V 处理器在 HPC 基准测试、科学和工业应用中的扩展特性描述。
- SG2044 在 64 核下达到 294 GFLOP/s FP64 性能和 107 GB/s 内存带宽,L2 感知进程绑定提高了可扩展性。
- SG2044 在多个工作负载上达到或超过 Sapphire Rapids 的能效,并在 64 核 LLM 推理中超越 NVIDIA Grace,达到 1.20 tok/J (PP) 和 0.209 tok/J (TG)。
- Monte Cimone 在四年内的演进表明,从 MCv1 到 MCv3,FP64 性能提升高达 158 倍,能效提升 10 倍。
- 性能分析指出向量宽度、内存带宽和软件级亲和性是提高 RISC-V 在 HPC 中竞争力的关键因素。
技术细节
- 本研究比较了 Sophgo SG2044 (RISC-V, 64 核, RVV 1.0 128 位向量, 台积电 12nm), NVIDIA Grace CPU Superchip (Armv9, 144 核, SVE2 4x128 位向量, 台积电 4N) 和 Intel Xeon Platinum 8480+ (x86-64, 112 核, AVX-512 2x512 位向量, Intel 7)。
- 使用了通用软件栈,包括 Linux kernel 6.12, GCC 14.2, OpenMPI 5.0 和 OpenBLAS 0.3.34,并进行了架构特定的优化。
- SG2044 在 64 核下实现了 294 GFLOP/s 的 FP64 性能和 107 GB/s 的内存带宽,L2 缓存感知的进程放置将 STREAM 的扩展性提高到 16 核。
- 在 HPL 中,SG2044 单核达到 8.02 GFLOP/s,64 核达到 294 GFLOP/s,而 NVIDIA Grace 在 144 核下达到 2,818 GFLOP/s,Intel Sapphire Rapids 在 112 核下达到 5,210 GFLOP/s。
- 对于 LLM 推理 (llama.cpp, gpt-oss-20b-F16, 批处理大小 512),64 核 SG2044 在文本生成 (TG) 中达到 17.4 tok/s,优于 Intel Sapphire Rapids (14.0 tok/s),并实现了更高的能效 (0.209 tok/J 对比 Grace 的 0.159 tok/J)。
- 功耗测量通过 IPMI 遥测 (x86, Arm) 和架构特定机制 (Intel 的 RAPL, NVIDIA 的 hwmon) 收集;对于 SG2044,IPMI 报告的是板级功耗,因此需要工程化的组合指标来计算共同功耗域。
- Monte Cimone 项目从 MCv1 到 MCv3 (SG2044) 的演进表明,FP64 性能提高了 158 倍,能效提高了 10 倍。
影响与意义
- RISC-V 在 HPC 领域取得了实质性进展,展现出有竞争力的系统级特性,特别是在某些工作负载的扩展性和能效方面。
- RISC-V 平台的性能并非完全取决于峰值计算能力,内存带宽和软件亲和性也扮演着关键角色。
- 未来的 RISC-V HPC 平台可以通过改进向量能力、提升内存子系统以实现更高的聚合带宽、采用更先进的工艺节点以及持续优化软件栈和数值库来增强竞争力。
- Monte Cimone 项目中观察到的代际改进表明,RISC-V 有一条可行的路径,可以逐步缩小与现有 HPC 架构的性能差距,同时保留开放指令集架构的优势。
局限性
- Sophgo SG2044 处理器在经典 HPC 工作负载的绝对性能方面,仍落后于所评估的 Intel 和 NVIDIA 平台 8-15 倍。
- 性能差距归因于 SG2044 较窄的向量资源 (128 位 RVV 1.0) 和不够先进的工艺节点 (台积电 12nm),而 x86 (Intel 7 上的 AVX-512) 和 Arm (台积电 4N 上的 SVE2) 则更先进。
- SG2044 的内存带宽在大约 16 核时出现饱和,限制了 STREAM 的进一步性能提升,尽管相较于前几代有所改进。
- SG2044 在更高核数下的 HPL 扩展效率低于上一代 SG2042,即使其绝对性能更高。
- SG2044 的功耗测量依赖于板级 IPMI 数据,需要工程化的组合指标来考虑风扇等组件,这与在其他平台上直接进行处理器级测量相比,可能会引入估计的可变性。
- 所使用的 OpenFOAM 版本 (v2512) 采用原生的 LDU-COO 稀疏矩阵格式,不适合向量化,限制了编译器的自动向量化,导致每个核心内部严格的标量执行,这可能无法充分利用支持向量的架构。
- HPL-MxP 的实现是作者自定义构建的,链接到 OpenBLAS,这可能无法反映在其他平台上使用供应商优化 HPL-MxP 实现所能达到的性能。