A rápida evolução da inteligência artificial já deixou de ser apenas um vetor de inovação para se tornar um dos principais pontos de atenção em cibersegurança. O avanço dos chamados agentes de IA – sistemas capazes de tomar decisões, executar tarefas e interagir de forma autônoma – está forçando empresas a revisarem não apenas suas ferramentas, mas toda a lógica de governança digital.
CONTEÚDO RELACIONADO – IA agêntica reduz custos e aumenta taxa de satisfação de clientes em contact centers, indica estudo
Na avaliação de Fernando Zamai, diretor de vendas em cibersegurança da Cisco Systems no Brasil, o mercado vive um momento de inflexão. “A IA não é mais só apoio. Ela começa a agir. E quando ela age, o risco muda de patamar”, afirma.
Esse novo cenário é marcado por um duplo movimento. De um lado, fornecedores incorporam inteligência artificial em seus portfólios para aumentar a eficiência de detecção e resposta a ameaças. De outro, cresce a preocupação em proteger o uso e, principalmente, o comportamento dessas mesmas tecnologias dentro das organizações.
Zamai explica que a adoção de IA na segurança é, em parte, uma resposta direta à sofisticação dos ataques. “Se o atacante usa IA, eu também preciso usar. Caso contrário, fico para trás”, resume. Nesse contexto, assistentes inteligentes já começam a simplificar a operação de ferramentas complexas, permitindo que profissionais interajam com plataformas de segurança por linguagem natural.
Ponto de tensão
Mas é na evolução para agentes autônomos que surge o maior ponto de tensão. Diferentemente dos modelos tradicionais, esses sistemas exigem níveis elevados de acesso para operar plenamente. “Para entregar valor, a IA demanda privilégio. E isso entra em choque com um dos princípios básicos da cibersegurança, que é o de menor privilégio”, alerta o executivo.
Na prática, isso significa que esses agentes podem acessar e-mails, agendas, sistemas corporativos e até executar ações em nome dos usuários. O ganho de produtividade é evidente – mas o risco também. “É um software extremamente poderoso. Ao mesmo tempo em que atrai, assusta”, diz Zamai.
Esse cenário tem impulsionado um novo conceito dentro das empresas: o “Shadow AI”, uma evolução do já conhecido Shadow IT. Assim como aplicações não autorizadas sempre representaram risco, agora são os usos não controlados de inteligência artificial que preocupam. Ferramentas aparentemente inofensivas, como plataformas de design ou colaboração, já incorporam IA em suas funcionalidades, muitas vezes sem visibilidade clara para as áreas de segurança.
Zamai cita casos reais em que empresas precisaram desenvolver mecanismos avançados para inspecionar o uso de IA embutida em aplicações corporativas. “Não basta mais liberar ou bloquear um aplicativo. É preciso entender o que está acontecendo dentro dele, inclusive se há troca de dados sensíveis com modelos externos”, explica. Isso envolve tecnologias como inspeção profunda de tráfego, descriptografia e prevenção contra vazamento de dados.
Diante desse cenário, a estratégia não tem sido impedir o uso, mas controlá-lo. A própria Cisco Systems adotou uma abordagem restritiva com modelos públicos, oferecendo internamente uma IA corporativa, integrada a diferentes motores, mas operando sob políticas de segurança e privacidade. A lógica é permitir inovação com governança.
Além do uso, outro ponto crítico está no desenvolvimento de soluções baseadas em IA. À medida que empresas criam seus próprios agentes para interagir com clientes ou automatizar processos, surge um novo tipo de risco: o reputacional.
“Se uma IA corporativa responde de forma inadequada, antiética ou incorreta, o impacto é direto na marca. Ninguém vai culpar o algoritmo”, afirma Zamai. Casos de respostas inadequadas, decisões erradas ou até ofertas comerciais equivocadas já fazem parte das preocupações dos CISOs.
Para mitigar esses riscos, ganham espaço os chamados “guard rails” – mecanismos que definem limites de comportamento para a IA. Além disso, testes de segurança passam a incluir simulações de ataques aos próprios modelos, avaliando como eles reagem a tentativas de manipulação ou indução ao erro.
Nova camada de risco
Outro debate é o da responsabilização. À medida que agentes de IA atuam de forma mais independente, torna-se menos claro quem responde por suas ações. “Se uma IA age em nome de alguém ou de uma empresa, a responsabilidade continua existindo. Esse é um tema que ainda está em construção, inclusive do ponto de vista regulatório”, diz.
O pano de fundo dessa transformação é a convergência tecnológica. O avanço da IA, combinado com maior poder computacional e integração com automação e robótica, acelera o impacto no mundo corporativo. Para Zamai, essa velocidade é um fator adicional de risco. “O ciclo de evolução está muito rápido. As empresas precisam reagir na mesma velocidade, mas com controle.”
Nesse contexto, a indústria de cibersegurança também passa por uma mudança estrutural. A tendência, segundo o executivo, é a consolidação de plataformas integradas, capazes de responder de forma coordenada e, cada vez mais, autônoma a incidentes. Soluções fragmentadas perdem espaço diante da complexidade dos ataques impulsionados por IA.
No Brasil, esse movimento já se reflete no crescimento de modelos de segurança como serviço, especialmente em ambientes de nuvem. Ainda assim, Zamai reforça que a segurança de rede continua essencial, principalmente para proteger dispositivos legados e ambientes de internet das coisas (IoT), que não suportam agentes tradicionais.
Ao final, a IA agêntica inaugura uma nova camada de risco que não pode ser tratada apenas com ferramentas tradicionais. Exige governança, visibilidade e, sobretudo, uma mudança de mentalidade nas organizações.
“Não se trata de barrar a IA. Trata-se de usá-la com responsabilidade. Quem conseguir equilibrar inovação e controle vai ter vantagem competitiva. Quem não conseguir, pode abrir uma porta perigosa sem perceber”, conclui.
Participe das comunidades IPNews no Instagram, Facebook, LinkedIn e X (Twitter).