GCP现提供Nvidia Tesla T4 GPU,支援混合精度机器学习运算
报价宝综合消息GCP现提供Nvidia Tesla T4 GPU,支援混合精度机器学习运算

GCP在云端开始提供Nvidia Tesla T4 GPU的Alpha测试版,由于Tesla T4 GPU针对机器学习推理、分散式训练模型以及电脑图形最佳化,因此可以大幅提升这些任务的效率,GCP提到,他们是第一个提供Tesla T4 GPU的云端供应商。
与其他人工智能技术相比,机器学习的推理阶段,特别需要高效能和低延迟的运算能力,Google提到,Turing Tensor Core支援FP32、FP16和INT8各种精度模式,Tesla T4还实现高达130 TFLOPS的机器学习推理运算效能,延迟最低可达1.1ms。另外,Tesla T4附带的16GB高速GPU内存,能帮助大型或是同时多个机器学习模型进行推理。
而Tesla T4是目前唯一支援INT4和INT1低精度运算的GPU,这将能大幅提升深度学习的运算速度。Google表示,不少使用者要求,在机器学习应用上需要FP32和FP16混合精度运算支援的GPU,而Tesla T4则能符合这样的需求,其内建的16GB高速GPU内存满足了模型分散式训练、增强学习和其他机器学习训练工作负载。
且由于得利于新的硬件加速图形功能,Tesla T4在原本的电脑图学应用也表现的非常好,除了近日热门的即时光线追踪技术外,也支援离线渲染或任何利用Nvidia RTX技术的应用程序。
用户可以使用GCP上的Compute Engine深度学习虚拟机器映像档,快速的开始使用Tesla T4,映像档预先配置了执行高效能推理工作负载的所有必要设定,接下来Google也还会在Kubernetes Engine(GKE)和其他GCP服务引入Tesla T4。想尝鲜的使用者现在可以登记加入测试,而Tesla T4的价格将在之后公布。
