A biblioteca de código aberto trabalha com modelos de aprendizado de máquina do TensorFlow, do próprio Google, e de terceiros.
O Google lançou a versão final do TensorFlow Serving 1.0, sua biblioteca de códigos abertos para aprendizado de máquina em ambientes de produção. A versão beta havia sido lançada em fevereiro passado e destina-se a auxiliar a implantação de algoritmos e experiências, mantendo a mesma arquitetura de servidor e APIs.
Cinco erros mais comuns sobre machine learning
A biblioteca se integra aos modelos de aprendizado TensorFlow, mas também pode ser estendida para servir outros tipos de modelo. Um binário pré-construído está disponível para o software. Um contêiner Docker pode ser usado para instalar o binário do servidor em sistemas que não são Linux.
Os três principais aspectos do TensorFlow Serving 1.0 são:
- Um conjunto de bibliotecas C ++ que oferecem suporte a padrões para servir e aprender modelos TensorFlow, além de uma plataforma de core genérica não vinculada a TensorFlow.
- Binários que incorporam as melhores práticas e apresentam recipientes Docker de referência e tutoriais.
- Um serviço hospedado com a plataforma Google Cloud ML e uma instância interna usada por muitos produtos do Google.
Os principais conceitos em TensorFlow Serving são:
- Servables, que são objetos subjacentes usados por clientes para computação e a abstração central em TensorFlow Serving.
- Loaders, para gerenciar um ciclo de vida útil. As APIs são padronizadas para carregar e descarregar um utilitário.
- Sources, que são módulos de plugin que originam serviços.
- Managers, para lidar com o ciclo de vida útil.
A versão TensorFlow Serving 1.0 desativa o formato do modelo SessionBundle. Este é substituído pelo formato SavedModel introduzido com TensorFlow 1.0. O Google diz que tem mais de 800 projetos usando TensorFlow Serving em produção.