Google开源TensorFlowServing机器学习模型部署系统
报价宝综合消息Google开源TensorFlowServing机器学习模型部署系统
继去年11月开源机器学习系统TensorFlow后， Google再宣布释出机器学习模型的部署系统(serving system) TensorFlow Serving的程式码。
Google工程师Noah Fiedel指出，TensorFlow Serving为高效能机器学习模型的部署系统，适用于大量且会随时间变化真实世界资料的多种模型，提供机器学习模型的生命周期管理、实验多种算法，以及GPU资源的有效利用。
↓TensorFlow Serving取得的资料，从学习器（Learner）中产生出模型，再随着使用者端取得的新资料建构出新的模型。（图片来源：Google）
Fiedel强调C++写成、支援Linux 的TensorFlow Serving具备高效能、低耗损等优点，曾在一次标竿测试中，于一台16 vCPU Intel Xeon E5的机器上执行高达每核每秒10万次的查询。
Google并指出，TensorFlow Serving专为TensorFlow最佳化，且很容易整合到生产环境，可在维持服务器架构及API情况下部署新模型与执行实验。同时它既可与TensorFlow整合使用，也能加以扩充来部署其他模型。
TensorFlow Serving已在Apache 2.0之下授权开源，程式码及相关文件并于 Github开放下载。
