返回 登录
0

Google发布面向生产环境的TensorFlow Serving

TensorFlow开源之后,Google又发布面向生产环境的TensorFlow Serving。Google software engineer Noah Fiedel在googleresearch博文中介绍,TensorFlow Serving是一个高性能、开源的机器学习服务系统,为生产环境及优化TensorFlow而设计,适合运行多个大规模模型,支持模型生命周期管理、多种算法实验及有效地利用GPU资源,能够让模型更快、更易于投入生产环境。

TensorFlow Serving简化的工作流程如下图(有监督):

图片描述

图片描述

图片描述

TensorFlow Serving采用C++编写,支持Linux。允许安全部署新模型,运行相同服务器架构与API的实验。提供与TensorFlow的集成,但也扩展支持其他类型的模型。

链接:
github.com/tensorflow/serving
tutorial

评论