GCP先占式TPU服务上架,欧亚美三大洲都可用

Google资料中心内部的TPU设备
前阵子GCP才正式推出GPU先占式服务,让企业可以用便宜7成的价钱,使用GPU资源进行机器学习、人工智能等高耗能运算服务。这一次Google又加强公有云的深度学习功能,现在GCP平台的云端TPU(Tensor Processing Units)先占式使用模式已经上架,除了美国资料中心外(us-central1),现在欧洲(europe-west4为荷兰资料中心)、亚洲(asia-east1为台湾资料中心)的云端营运中心也都可用。
这一次TPU服务推出的先占式模式,也跟日前GCP平台的GPU服务一样,比起随需使用模式,便宜了7成。按照使用者部署服务的资料中心,亦有收费上差异。目前云端TPU服务最便宜的使用区域为美国,计价以1小时为单位计算,随需使用模式要价6.50美元,而先占模式则只需要1.950美元。次之为欧洲,一般使用是7.15美元,先占模式收取2.145美元。而现在最贵的区域则是亚洲区,随需模式得花7.54美元,先占模式则为2.262美元。
而Google也引用最近使丹佛大学举办的效能基准测试比赛DAWNBench所释出的资料,该计划综合评比各类深度学习模型,搭配不同硬件及深度学习框架,根据训练时间、训练成本进行排名。而在影像分类的测试中,以单一GCP n1-standard-2实例为训练环境,搭配云端TPU以及AmoebaNet模型,只需要49.30美元就能达到93%的准确率。而花最少时间达到93%以上准确率的冠军,同样也是使用TPU进行训练,深度学习模型ResNet-50搭配半颗TPU,在30分钟多就已经完成目标。
做为加速机器学习运算的TPU,是Google专为机器学习所设计的专用芯片,也是针对自家深度学习框架TensorFlow,所量身打造的客制化ASIC,近年开始部署在Google资料中心服务器内,让企业用于执行机器学习应用,“云端TPU可让企业使用机器学习技术,开始转型自家商品、服务。”Google表示,训练深度学习模型得消耗大量运算资源,连自家的Gmail、搜索引擎、相片及智慧助理,也都仰赖这款客制化TPU。现在每一张TPU可以提供180TFLOPS的运算力,还搭配64GB的高带宽内存。
每一张TPU可以提供180TFLOPS的运算力,还搭配64GB的高带宽内存。Google表示,训练深度学习模型得消耗大量运算资源,连自家的Gmail、搜索引擎、相片及智慧助理,也都仰赖这款客制化TPU。图片来源:Google
目前云端TPU服务最便宜的使用区域为美国,计价以1小时为单位计算,随需使用模式要价6.50美元,而先占模式则只需要1.950美元。次之为欧洲,一般使用是7.15美元,先占模式收取2.145美元。而现在最贵的区域则是亚洲区,随需模式得花7.54美元,先占模式则为2.262美元。图片来源:Google
