Até 2028, metade das organizações implementarão uma postura de zero-trust para a governança devido à proliferação de dados não verificados gerados por Inteligência Artificial (IA), de acordo com o Gartner. A premissa é de que as organizações não podem mais confiar implicitamente nos dados ou presumir que eles foram gerados por humanos, sendo assim, é preciso uma postura zero-trust que estabeleça medidas de autenticação e verificação é essencial para proteger os resultados comerciais e financeiros.
Os Grandes Modelos de Linguagem (LLMs) são normalmente treinados com dados “coletados na web” e uma variedade de fontes, incluindo livros, repositórios de código e artigos de pesquisa. Algumas dessas fontes já contêm conteúdo gerado por Inteligência Artificial e, se as tendências atuais continuarem, quase todas acabarão sendo preenchidas com dados gerados por IA.
De acordo com a 2026 Gartner CIO and Technology Executive Survey, 84% dos entrevistados esperam que suas organizações aumentem o financiamento para Inteligência Artificial Generativa (GenAI) em 2026. À medida que as organizações aceleram a adoção e o investimento em iniciativas de IA, o volume de dados gerados por Inteligência Artificial continuará a aumentar.
Isso significa que as futuras gerações de LLMs serão cada vez mais treinadas com base nos resultados de modelos anteriores, aumentando o risco de “colapso do modelo”, em que as respostas das ferramentas de IA podem não refletir mais a realidade com precisão.
Regulamentação pode não ser o bastante
O Gartner explica que, conforme o conteúdo gerado por Inteligência Artificial se torna mais prevalente, espera-se que os requisitos regulatórios para verificar dados “livres de IA” se intensifiquem em certas regiões. No entanto, esses requisitos podem diferir significativamente entre países, com algumas jurisdições buscando aplicar controles mais rígidos ao conteúdo gerado por IA, enquanto outras podem adotar uma abordagem mais flexível.
Dessa forma, todas as organizações precisarão ter a capacidade de identificar e fazer marcações (tag) em dados gerados por IA. O sucesso dependerá de ter as ferramentas certas e uma força de trabalho qualificada em gestão de informações e de conhecimento, bem como soluções de gestão de metadados que são essenciais para a catalogação de dados.
Práticas ativas de gestão de metadados se tornarão um diferencial importante, aposta a consultoria, permitindo que as organizações analisem, alertem e automatizem a tomada de decisões em todos os seus ativos de dados.
Gerenciando riscos associados ao aumento de dados não verificados gerados por IA
As organizações devem considerar diversas ações estratégicas para gerenciar os riscos de dados não verificados:
- Nomear um líder de governança de IA: estabeleça um cargo responsável pela governança de Inteligência Artificial, incluindo políticas de zero-trust, gerenciamento de riscos de IA e operações de conformidade. Esse líder deve trabalhar em estreita colaboração com as equipes de Data & Analytics (D&A) para garantir que os dados estejam prontos para Inteligência Artificial e que os sistemas sejam capazes de lidar com o conteúdo gerado por IA.
- Promover a colaboração multifuncional: forme equipes multifuncionais que incluam segurança cibernética, Data & Analytics e outras partes interessadas relevantes para conduzir avaliações abrangentes de riscos de dados, buscando identificar os riscos para os negócios relacionados a informações geradas por IA e determinar quais são abordados pelas políticas de segurança de dados existentes e quais precisam de novas estratégias.
- Aproveitar as políticas de governança existentes: baseie-se nas estruturas de governança de Data & Analytics atuais e concentre-se na atualização das políticas relacionadas à segurança, gerenciamento de metadados e ética para lidar com novos riscos de dados gerados por IA.
- Adotar práticas ativas de metadados: isso permite alertas em tempo real quando os dados estão desatualizados ou precisam de recertificação, ajudando as organizações a identificar rapidamente quando sistemas críticos para os negócios podem ficar expostos a informações imprecisas ou tendenciosas.
Participe das comunidades IPNews no Instagram, Facebook, LinkedIn e X (Twitter).
