Google机器学习平台Vertex AI现提供低延迟高安全性的私有端点

Google宣布在其机器学习平台Vertex AI上提供私有端点（Private Endpoints），这是Vertex Predictions中的一项新功能，借由VPC对等连接，用户可以配置专用的连接与端点通讯，因此用户的资料就不需要经过互联网，不只提高安全性，也可以降低线上预测的延迟。

Vertex AI是Google在2021年开发者大会Google I/O，所发布的全托管机器学习平台，该平台由一系列机器学习工具组合而成，简化企业部署和维护机器学习模型的工作。Vertex AI解决机器学习工具过于破碎，使得开发流程不顺畅的问题，Vertex AI提供一致的UI和API，供用户简单地操作Google云端服务，来简化建构、训练和部署大规模模型的任务。

Google提到，要即时提供机器学习模型预测是一大挑战，能够低延迟提供结果，对各产业的机器学习应用都非常重要。而这也就是Google推出Vertex AI私有端点的原因，应用VPC对等连接提供低延迟的网络连接。

VPC网络是一种全域资源，由资料中心的地区虚拟子网所构成，所有子网都透过全域网络连接，借由VPC网络对等连接，用户可以跨两个VPC网络连接内部IP地址，无论IP地址是否属于同一专案或是同一组织，最终使得所有流量都能留在Google网络中。

Vertex AI供用户使用Vertex Predictions，以无服务器的方式提供机器学习模型服务，用户可以在云中托管模型，并且透过REST API进行预测。当用户要在线上进行模型预测，则需要将模型部署到端点，用户能选择端点机器类型和自动缩放等参数，提供低延迟的预测服务。

而现在用户还可以选择创建私有端点，限制资料永不穿过互联网，所以私有端点除了能降低系统收到请求的时间，还具有安全性优势，Google提到，部署模型至私有端点的额外开销很小，而且实现的效能几乎与在GKE或GCE自己提供服务相同。