O avanço da Inteligência Artificial (IA), agora com seus agentes de IA, nas rotinas corporativas tem levantado questionamentos sobre o uso ético e seguro dessa tecnologia, especialmente em relação à segurança e privacidade de dados. Segundo o relatório “AI Agents Report 2025”, desenvolvido pelo ecossistema Distrito, 27% das empresas que já adotaram esses sistemas autônomos em suas atividades compartilham de preocupações em relação à segurança da informação.
CONTEÚDO RELACIONADO: 67% dos CEOs brasileiros estão adotando ativamente agentes de IA
Apesar do alerta, empresas como a plataforma de automação de processos Pipefy, demonstram que é possível estabelecer agentes de IA a partir de padrões mais rigorosos de privacidade e segurança. Utilizando modelos de linguagem prontos (LLMs), a Pipefy garante que os dados dos usuários não sejam utilizados para retreinamento ou armazenados após o uso. As informações servem apenas para gerar respostas contextuais, no momento da interação, mantendo a confidencialidade.
Daniele Gemignani, CTO da Pipefy, acredita que é preciso equilibrar três pilares para que todas as empresas – pequenas ou grandes – consigam utilizar os agentes de IA de forma segura e justa: investir em inovação, trazendo tecnologia relevante para os times; segurança, protegendo os dados contra vazamentos e ataques; além de privacidade, com a garantia de que as informações dos usuários não sejam mal utilizadas.
Segundo ele, a IA precisa ser mais transparente, por isso a necessidade de explicar como ela toma decisões e deixar claras as regras e leis que definem o que é certo e errado no uso da tecnologia. Outro ponto é investir em proteção digital, com a utilização de ferramentas contra falhas e vazamentos de informação.
Padrões de segurança e criptografia
O Fórum Econômico Mundial (WEF, na sigla em inglês) lançou recentemente o “Global Cybersecurity Outlook 2025”, estudo sobre a evolução da segurança cibernética e seus desafios. Nele, 71% dos especialistas em segurança alertam que as pequenas empresas globais atingiram um ponto crítico em sua capacidade de se proteger contra os crescentes riscos digitais.
No Brasil, o desafio se torna ainda mais significativo, visto que foram registrados uma média de 2.754 tentativas de ciberataques semanais durante o segundo trimestre do ano passado. Em comparação ao mesmo período de 2023, houve um aumento de 67%, segundo um relatório da Check Point Research.
Para proteger as informações que são trabalhadas com os agentes de IA, a Pipefy segue padrões internacionais rígidos de segurança, como certificações ISO 27001 (Segurança da Informação), ISO 27701 (Privacidade de Dados) e ISO 27018 (Proteção de Dados na Nuvem). A empresa também conta com uma equipe dedicada à segurança, treinamentos constantes e auditorias internas e externas. Além disso, são disponibilizados login com autenticação dupla (2FA) e SSO (Login Único) na plataforma, para evitar acessos não autorizados.
Já em relação à criptografia, são adotados padrões para dados em repouso, o AES-256 (utilizado por bancos e governos) e para dados em trânsito, como o TLS 1.2+ (utilizado por sites seguros, como bancos online).
Participe das comunidades IPNews no Instagram, Facebook, LinkedIn e X (Twitter).