APP下载

AWS发表搭载A100 GPU的P4执行个体

消息来源:baojiabao.com 作者: 发布时间:2024-05-16

报价宝综合消息AWS发表搭载A100 GPU的P4执行个体

AWS发表了最新配备Nvidia A100 Tensor Core GPU的P4执行个体,P4搭载英特尔Cascade Lake处理器,并且拥有8个A100 GPU,每个GPU以NVLink相连,并且支援可提升GPU载入大型资料集速度的GPUDirect储存技术。

P4执行个体因为拥有高达2.5 PetaFLOPS的浮点运算效能,以及320 GB的高带宽GPU内存,因此能够获得的深度学习效能,是P3执行个体的2.5倍,还能降低60%的训练成本。而且P4执行个体有1.1 TB的系统内存,和8 TB支援NVME技术的SSD储存,每秒可提供16 GB的资料吞吐量,在网络方面,P4执行个体可以连接4个100 Gbps网络线路,AWS提到,这些网络线路专为P4设计,是PB等级无阻塞网络结构,可以支援19 Gbps EBS带宽,最高支援可达80K IOPS。

综合A100 GPU、GPUDirect的支援、400 Gbps网络、PB级网络架构,还有AWS ParallelCluster和S3等AWS服务的支援,用户可以建立具有4,000个,甚至更多GPU的EC2超级丛集(UltraClusters),执行大规模地震分析、天气预报和财务建模等工作负载。

P4执行个体只有一个规格p4d.24xlarge,现在已经可以在美东北维吉尼亚和美西奥勒冈使用,在今年稍晚,AWS还会推出使用P4执行个体运作的AWS服务,诸如Amazon SageMaker和AEK等。

2020-11-04 11:49:00

相关文章