A Dynatrace anunciou recursos ampliados para a observabilidade de iniciativas de Inteligência Artificial Generativa (GenAI) dos clientes. Esses avanços fornecem às equipes acesso a insights abrangentes sobre suas aplicações de IA para impulsionar a confiabilidade, o desempenho, a segurança e a conformidade.
CONTEÚDO RELACIONADO: Especialistas divergem quanto à privacidade de dados no DeepSeek
A intenção é de que a visibilidade ajude as organizações agora a terem clareza sobre suas iniciativas de IA e podem entender seu Retorno sobre o Investimento (ROI). A Dynatrace está capacitando seus clientes corporativos a alcançarem esse objetivo por meio de uma série de avanços em sua plataforma que são inéditos no setor, incluindo:
- Análise aprimorada de LLM: Além de monitorar KPIs (Key Performance Indicators) padrão, como erros de entrada (input) e saída (output), tempos de resposta e consumo de tokens, os recursos preditivos do Dynatrace Davis AI detectam alterações no comportamento de uso para prever mudanças de custos associadas ao uso de Grandes Modelos de Linguagem (Large Language Models – LLM). Isso ajuda as equipes a entenderem o desempenho do modelo e as oportunidades de otimização, inclusive como podem gerenciar melhor os custos e controlar o ROI.
- Proteções de entrada e saída do LLM: O recurso permite que os clientes reconheçam alucinações de modelos, identifiquem tentativas de uso indevido do LLM, como injeção de prompt malicioso, evitem o vazamento de informações de identificação pessoal (PII) e detectem linguagem tóxica.
- Rastreamento multimodelo: A Dynatrace mapeia as dependências entre vários LLMs que trabalham em conjunto com pipelines de Geração Aumentada de Recuperação (Retrieval Augmented Generation – RAG) ou estruturas agênticas para fornecer observabilidade fim a fim de todo o sistema, e não apenas das partes componentes. Isso fornece às equipes insights para verificar se as dependências estão interagindo perfeitamente, para que possam oferecer experiências ideais ao usuário final.
- Integrações de IA responsáveis: A Dynatrace ajuda as organizações com a governança de IA, rastreando cada entrada e saída sem amostragem para fornecer uma trilha de auditoria de monitoramento e observabilidade, incluindo a documentação de quais dados de treinamento foram usados para um determinado modelo. Por meio do Dynatrace Grail, todos os dados podem ser consultados em tempo real e armazenados para referência futura.
Participe das comunidades IPNews no Instagram, Facebook, LinkedIn e X