Restrições regulatórias e preocupações com a segurança estão levando algumas empresas a executar sua IA em data centers locais ou em nuvens privadas sob seu controle total. Por esses motivos, algumas empresas estão buscando plataformas de terceiros que não as prendam a nenhum fornecedor de IA ou provedor de nuvem em particular, e a VMware — agora de propriedade da Broadcom — é uma das principais concorrentes para o trabalho.
CONTEÚDO RELACIONADO – Citrix, VMware e Atlassian alertam para falhas críticas em suas soluções
Na conferência anual VMware Explore, a Broadcom anunciou suporte para uma nova loja de modelos para a VMware Private AI Foundation com o complemento NVIDIA para a plataforma VMware Cloud Foundation 9, conforme reportagem do website Networkworld.
A plataforma conjunta da VMware e da NVIDIA se tornou disponível em maio passado e oferece suporte aos modelos, ferramentas e estruturas de IA da Nvidia. Ela já está sendo usada por vários clientes, incluindo a US Senate Federal Credit Union.
“Vemos a IA no atendimento ao cliente como um caso de uso poderoso — desde respostas de chatbot com base de conhecimento para nossa equipe interna, até a entrega de respostas financeiras para nossos membros em qualquer dispositivo que eles usem para serviços bancários”, disse Mark Fournier, CIO da U.S. Senate Federal Credit Union, em uma declaração. “A VMware Private AI em execução na VMware Cloud Foundation oferecerá um valor tremendo ao nos permitir nos conformar com a forma como operamos com um ambiente de nuvem privada há anos.”
Quando lançada pela primeira vez, a plataforma conjunta permitiu que as empresas implantassem aplicativos de IA generativa e incluiu um banco de dados vetorial para que as empresas pudessem usar geração aumentada de recuperação, ou RAG, para fazer com que sua IA generativa fornecesse respostas mais precisas e atualizadas.
“A peça que faltava era um gerente de loja de modelos”, diz Paul Turner, vice-presidente de produtos na divisão VMware Cloud Foundation da Broadcom.
Ela permite que as empresas disponibilizem uma seleção com curadoria de modelos de IA para seus desenvolvedores, juntamente com controles de acesso a esses modelos.
“E garante que ninguém esteja usando apenas modelos de linguagem grande de uso geral que você não deseja oferecer suporte”, diz Turner. “Porque lá na Internet, você não sabe a procedência desse LLM e de onde ele vem. Isso lhe dá uma maneira de gerenciar esses LLMs em sua base de usuários para que você possa realmente deixá-los ativar sua inovação de IA generativa.”
Os clientes da VMware podem usar os modelos de IA da NVIDIA, bem como modelos da Hugging Face e outros parceiros, incluindo o modelo Llama 3 da Meta e modelos do Google e Mistral.
Além de um armazenamento de modelos, outros novos recursos incluem ferramentas para proteger os modelos com controles de acesso integrados, um fluxo de trabalho de implantação simplificado e fluxos de trabalho de IA de referência para casos de uso especializados, como atendimento ao cliente, descoberta de medicamentos e extração de dados em PDF.
Participe das comunidades IPNews no Instagram, Facebook, LinkedIn e X (Twitter).
