存储 频道

五项领先!浪潮数据AI存储AS13000G7领跑MLPerf® Storage V3.0 核心场景

  近日,国际权威AI基准评测组织MLCommons公布MLPerf® Storage V3.0最新测试结果。浪潮数据AI存储AS13000G7在大模型训练Checkpointing、大模型推理KVCache、高性能计算UNet3D三大场景基准测试中表现亮眼,参选六项核心测试,斩获五项领先,包揽单节点、单U多项性能双领先,全面覆盖AI训推与HPC高性能计算主流应用场景。

  作为全球公认的AI与科学计算存储性能国际标准,MLPerf® Storage由图灵奖得主大卫·帕特森联合斯坦福大学、谷歌等顶尖学术机构与科技企业共同发起,坚持架构中立、场景真实、结果可复现的核心原则,是智算/超算中心、大模型企业选型存储的核心参考标尺。全新升级的V3.0版本吸引全球19家厂商参与,评测规则大幅收紧,摒弃单轮最优成绩机制,新增KV Cache推理负载,引入多轮循环测试、性能波动约束与跨节点一致性校验,更加贴近真实生产环境负载压力,评测含金量与行业参考价值进一步提升。

  浪潮数据本次参评的三类测试负载,精准覆盖当前AI与高性能计算产业的三大核心存储需求,全面对应大模型训练、大模型在线推理、HPC高性能计算三大主流场景:

  · Checkpointing负载:对应大模型训练的检查点读写场景,checkpoint读写效率直接决定长周期训练任务的运行稳定性与模型迭代效率。AS13000G7在Llama3.1-70B模型负载下,单节点读带宽269GiB/s,写带宽195GiB/s,取得单节点、单U读写带宽双项领先。

  · KVCache负载:对应大模型在线推理的缓存卸载场景。全落盘模式以更低成本承载更大缓存,适配大参数量模型与长会话场景,Llama3.1-8B全落盘模式单节点吞吐达14,579tok/s,为第二名的1.7倍;混合内存模式通过内存与 SSD 分层缓存实现更低时延,适配高并发在线推理,单节点吞吐达10,181tok/s,为第二名的1.5 倍。AS13000G7在KVCache8B/70B全模型、全模式测试中均拿下单节点、单U性能领先。

  · UNet3D负载:对应HPC高性能计算中的医学影像三维分析场景,该模型测试中,单节点读带宽达268 GiB/s,单 U 读带宽达134 GiB/s,性能达到第二名的1.5倍,位列领先。 

  浪潮数据在上述参选场景拿下单节点与单U性能双维度多项领先,既代表单机硬件性能充分释放,可为大规模集群扩展打下坚实基础;也代表产品具备优异性能密度,能够有效节约机房空间,降低客户长期运营成本。单节点+单U双维度同时登顶,印证AS13000G7软硬一体化协同的硬核实力,兼顾高性能与TCO,适配从中小科研平台到大型智算中心不同规模客户建设需求。

  本次取得优异成绩的AI存储AS13000G7搭载InData AIOS,依托玄同架构,针对Checkpointing、KV-Cache、HPC等不同业务负载完成深度软件调优与软硬协同适配,实现多场景下的性能优解,为多样化算力业务提供稳定、高效的存储底座支撑。

  据了解,浪潮数据是国内分布式存储领域先行者,十年持续深耕云数基础设施建设,完成从传统分布式存储、全闪存储产品,到AI数据操作系统的技术演进,面向大模型训练推理、科学计算、行业智能体落地,提供算力存力一体化基础设施解决方案。

  未来,浪潮数据将持续深耕存储底层技术创新,迭代打磨产品能力,为大模型训推、前沿科学计算等业务筑牢坚实的数据基础设施底座,助力AI产业与科研创新高质量发展。

0
相关文章