APP下载

AWS发布搭载A10G GPU的EC2执行个体G5,机器学习效能是前一代3倍以上

消息来源:baojiabao.com 作者: 发布时间:2024-05-20

报价宝综合消息AWS发布搭载A10G GPU的EC2执行个体G5,机器学习效能是前一代3倍以上

AWS更新其G系列EC2执行个体,发布最新搭载Nvidia A10G张量核心GPU的G5执行个体,能够更好地支援多媒体和机器学习等使用案例。AWS在两年前发布配备可多达8个Nvidia T4张量核心GPU的G4执行个体,主要针对机器学习推理和图形密集的应用程序,提供高效能GPU运算能力。

而现在新的G5执行个体,则是搭载多达8个A10G张量核心GPU,CPU则是使用第二代AMD EPYC处理器,整体来说,推理和图形运算的性价比前一代提高了40%。

A10G GPU与T4相比,A10G GPU机器学习训练的效能达3.3倍,推理能力和图形效能也有3倍,每个A10G GPU具有24 GB内存、80个光线追踪核心、320个第三代Nvidia张量核心,可以提供250 TOPS运算能力。

随着GPU的升级,G5执行个体的光线追踪也获得提升,因此能更好地支援游戏开发工具,而且每个执行个体也拥有大量EBS带宽,甚至能够支援即时播放用例。在机器学习支援上,G5在训练和推理的速度更快了,用户也能使用Nvidia CuDNN、TensorRT和各种针对GPU最佳化的软件,加快机器学习运算。

G5执行个体同时支援Linux和Windows操作系统,并相容各种图形和机器学习函式库,包括CUDA、OpenCL、DirectX、Vulkan和OpenGL等。目前G5已经上市,用户可以在美东、美西和欧洲地区使用,同时用户也能够在Amazon ECS和EKS丛集中,启用G5执行个体。

2021-11-15 06:44:00

相关文章