Empresa desenvolveu oferta Private AI Foundation, que promete mais privacidade e redução de custo para a criação de modelos de IA generativa
Por ser de graça para o consumidor comum, pode parecer que fazer uma consulta qualquer no ChatGPT não gera custos. Mas por trás daquela interface de chat, existem diversas máquinas rodando para trazer a resposta que atenda o usuário, o que traz custos com infraestrutura e energia. Há quem diga que uma pergunta simples como pedir a receita de um bolo possa custar US$ 1, por exemplo. Não é à toa que a McKinsey estimou que os gastos com IA generativa podem chegar até US$ 4,4 trilhões por ano.
Por isso, para uma empresa implementar uma inteligência artificial generativa (GenAI, na sigla em inglês), não é algo barato. E fora os investimentos em infraestrutura, também há o risco de privacidade. Uma companhia de tecnologia não quer que um código desenvolvido em conjunto com uma GenAI vá parar na pesquisa de uma concorrente, para ficar em apenas um exemplo simples.
Para resolver esse problema, a VMware desenvolveu uma oferta de Private AI Fundation, que foi o destaque de seu evento VMware Explore 2023, realizado pela segunda vez em São Paulo esta semana. Essa solução, oferecida em pareceria com a Nvidia, simplifica a implementação da GenAI a partir da personalização de grandes modelos de linguagem.
A ideia é limitar a base de dados com um modelo de machine learning para uso apenas interno, o que diminuiria a necessidade de processamento e também tornaria mais seguro o uso da IA generativa. Os clientes ainda podem escolher onde construir e executar seu modelo de linguagem natural – baseada nas soluções Nvidia – e montar as configurações de hardware de acordo com o projeto. No futuro, a expectativa é de essa oferta esteja disponível na nuvem pública.
Casos de uso ainda são desafio
Amanda Blevins, CTO da VMware, reconhece que treinar modelos de linguagem natural é algo caro e demorado, mas ao limitar o escopo dessa IA generativa, a conta pode fechar. A questão está em como usar essa tecnologia.
José Duarte, country manager da VMware, aponta que o hype com a tecnologia não é o suficiente para fazer as empresas investirem na GenAI. Tanto no Brasil quanto no resto do mundo, a busca por casos de uso que tragam valor para seu uso. Telcos, por exemplo, já enxergam valor tanto no atendimento ao cliente como na experiência consumo (CX), assim como empresas de e-commerce.
Ainda há a questão regulatória, como lembra a CTO. Amanda explica que a regulamentação da inteligência artificial é tema de parlamentos nos principais mercados, incluindo o Brasil, e que as organizações olham para isso antes de fazer seus investimentos, o que limita também uma grande adoção da tecnologia por uma empresa.
O momento é de testar a tecnologia, pois esperar demais pode custar caro depois na hora de competir no mercado com empresas mais inovadoras. “Empresas estão provando a inteligência artificial generativa, até porque usar por usar não faz sentido. É um investimento caro e precisa ser justificado”, complementa.
