英伟达GH200超级芯片首秀MLPerf v3.1，性能跃升17%

🆕最新资讯🆕
新智元报道，传说中的英伟达GH200超级芯片在MLPerf v3.1中首次亮相，性能直接碾压H100，领先了17%。MLCommons发布了MLPerf v3.1版本更新，并加入了两个全新基准测试：LLM推理测试MLPerf Inference v3.1和存储性能测试MLPerf Storage v0.5。英伟达GH200基于Grace CPU和H100 GPU的组合，在各个项目上都有约15%的性能提升。该超级芯片专为计算密集型工作负载而设计，能够满足各种严苛的要求和功能。GH200 Grace Hopper超级芯片在MLPerf Inference测试中表现出色，刷新了英伟达单个H100 SXM在每个项目中的最佳成绩。它集成了96 GB的HBM3内存，提供高达4 TB/s的内存带宽，与H100 GPU相比，单芯片性能优势高达17%。GH200 Grace Hopper超级芯片的性能也在封闭类别的所有工作负载和场景上表现卓越。据英伟达人工智能总监Dave Salvator表示，与测试中最好的x86 CPU相比，L4 GPU的性能提高了6倍。此外，英伟达的Jetson AGX Orin和Jetson Orin NX模块在其他AI应用和机器人应用方面也展现出色的性能。未来的软件优化将进一步释放英伟达Orin SoC的潜力。全新的MLPerf 3.1基准测试显示，通过模型优化，英伟达产品在保持高精度的同时，推理性能可以大幅提高。
来源：http://weixin.sogou.com/weixin?type=1&s_from=input&query=%E6%96%B0%E6%99%BA%E5%85%83