APP下载

Google发表新TPU加速器VM,训练模型效能更好且使用成本更低

消息来源:baojiabao.com 作者: 发布时间:2026-02-17

报价宝综合消息Google发表新TPU加速器VM,训练模型效能更好且使用成本更低

Google发布了最新的Cloud TPU虚拟机器,供用户以更简单的方式,存取云端TPU运算资源,新的Cloud TPU虚拟机器特色在于,让用户直接存取TPU主机,并且使开发者能在TPU上,使用TensorFlow、PyTorch和JAX进行开发和部署。

过去,用户只能远端存取Cloud TPU,通常必须要创建一个或是多个虚拟机器,并且使用gRPC以网络与Cloud TPU主机通讯,但在新的Cloud TPU虚拟机器中,用户不再以远端的方式存取Cloud TPU,而是能在每台TPU主机上,配置自己的互动式开发环境,因此用户可以在单一TPU虚拟机器中,逐行编写机器学习模型并且进行除错,也能依照需要使用Cloud TPU Pod扩展规模,与其他TPU高速互连。

用户拥有每个TPU虚拟机器的根存取权限,所以可以在TPU加速器中安装和执行任何程式,并且使用本地端储存,在输入的工作管线中自定义程式码,甚至是将Cloud TPU整合到研究和生产的工作流程中。

Google提到,这种全新的Cloud TPU系统架构,带来更简单和更灵活的使用方式,而且除了可用性的改善之外,也能提升效能,因为用户的程式码不需要在资料中心间往返,另外,用户还会看到明显的成本节省,由于过去用户需要额外创建一组强大的Compute Engine虚拟机器,来准备资料传送给Cloud TPU Pod切片中的远端主机,但现在可以直接在Cloud TPU主机上处理资料,因而消除额外虚拟机器的成本。

现在us-central1和europe-west4地区已经提供Cloud TPU虚拟机器预览,用户可以使用单个Cloud TPU装置,以及Cloud TPU Pod切片,并且选用TPU v2或TPU v3加速器硬件。

2021-06-02 19:06:00

相关文章