O avanço da inteligência artificial generativa está criando uma nova fronteira para a cibersegurança. Para enfrentar esse desafio, o inovabra, ecossistema de inovação do Bradesco, e a Universidade de São Paulo (USP) desenvolvem projetos de pesquisa voltados à proteção de agentes de IA contra fraudes, manipulações e vazamento de informações sensíveis.
CONTEÚDO RELACIONADO – Incidente na Meta expõe riscos à era dos agentes de IA
O projeto é desenvolvido em parceria com a Escola Politécnica da USP (Poli-USP), por meio do Laboratório de Arquitetura e Redes de Computadores (LARC), reunindo especialistas em cibersegurança, inteligência artificial e linguística para investigar novas formas de proteção de agentes de IA.
A iniciativa reúne especialistas em inteligência artificial, cibersegurança e linguística para investigar vulnerabilidades que afetam modelos de linguagem (LLMs) e agentes autônomos, cada vez mais presentes em processos corporativos e no atendimento a clientes.
Um dos principais focos do trabalho é o combate aos chamados ataques de injeção de prompt, técnica que busca manipular modelos de IA por meio de comandos maliciosos capazes de alterar comportamentos, contornar restrições de segurança ou acessar informações indevidas.
“Os modelos de linguagem trazem uma nova forma de programar computadores por meio da linguagem natural. Isso é revolucionário, mas também introduz desafios inéditos de segurança”, afirma Oscar Paiva, pesquisador sênior de cibersegurança do inovabra.
Segundo os pesquisadores, a proteção desses sistemas é especialmente complexa porque os modelos atuais podem conter centenas de bilhões de parâmetros e ainda não existe uma compreensão completa sobre como processam informações internamente.
A cooperação técnico-científica, que está em seu segundo ano, já resultou em componentes de software para proteção de aplicações de IA, oito artigos científicos publicados em eventos internacionais e diversos projetos de graduação, mestrado, doutorado e pós-doutorado.
Além de fortalecer as iniciativas de IA do Bradesco, o projeto contribui para a formação de especialistas e para o desenvolvimento de conhecimento nacional em uma área considerada estratégica para a transformação digital.
Os resultados também renderam reconhecimento internacional ao banco, que recebeu o prêmio “The Innovators 2026”, da revista Global Finance, pelo trabalho desenvolvido na área de inovação aplicada à segurança de inteligência artificial.
Participe das comunidades IPNews no Instagram, Facebook, LinkedIn, X e WhatsApp