在MLPerf行业标准AI基准测试中首次亮相的NVIDIA H100 Tensor Core GPU在所有工作负载推理中均创造了世界纪录,其比上一代GPU高出4.5倍。
这些测试结果表明,对于那些需要在高级AI模型上获得最高的用户来说,Hopper是最优选择。
此外,NVIDIA A100 Tensor Core GPU和用于AI机器人的NVIDIA Jetson AGX Orin模块在所有MLPerf测试中继续表现出整体领先的推理,包括图像和语音识别自然语言处理和推荐系统。
H100(又名Hopper)提高了本轮测试所有六个神经网络中的单加速器标杆。它在单个服务器和离线场景中展现出吞吐量和速度方面的领先优势。
NVIDIA Hopper架构比NVIDIA Ampere架构高出4.5倍;Ampere架构GPU在MLPerf结果中继续保持全方位领先地位。