*Por Jonata Frohlich
É inegável que a inteligência artificial (IA) está sendo amplamente utilizada por todos nós no dia a dia, sendo assim as empresas buscam automatizar processos e oferecer soluções mais ágeis e personalizadas para seus clientes. Porém, como toda tecnologia, ela também apresenta riscos de segurança que, se negligenciados, podem expor vulnerabilidades críticas, comprometer dados e prejudicar a confiança dos clientes. Alguns incidentes reais evidenciam os riscos de segurança na IA e como devemos proteger a infraestrutura de Inteligência Artificial.
CONTEÚDO RELACIONADO – Senado aprova regulamentação da inteligência artificial; texto vai à Câmara
Alguns riscos de segurança na infraestrutura de IA:
-
Envenenamento de dados (Data Poisoning): Modelos de IA são altamente dependentes de dados para treinamento e operação. Se dados mal-intencionados forem injetados no sistema, o modelo pode ser “envenenado” e induzido a fazer previsões erradas, com resultados potencialmente desastrosos.
-
Roubo de modelos e propriedade intelectual: Modelos de IA possuem valor estratégico e ataques de engenharia reversa podem ser usados para “roubar” o conhecimento e as operações do modelo, o que representa tanto perda financeira, quanto de competitividade.
-
Exposição de dados e falhas de privacidade: O uso de IA para processar dados sensíveis aumenta o risco de vazamentos, especialmente se não houver políticas rígidas de segurança e controle de acesso.
Com os riscos expostos com os incidentes de segurança em alta, podemos citar alguns casos recentes que exemplificam os riscos de não implementar uma infraestrutura segura para IA. Em 2023, um bug em uma biblioteca usada pelo ChatGPT permitiu que informações de pagamento e histórico de conversas de alguns usuários fossem expostas, chamando atenção para a vulnerabilidade de plataformas de IA em termos de privacidade e segurança de dados. Além disso, malwares como Raccoon e Vidar foram utilizados para roubar credenciais de login do ChatGPT, comprometendo milhares de contas globalmente
Outro incidente notável envolve o Microsoft Copilot, um assistente alimentado por IA, que apresentou vulnerabilidades graves em termos de segurança. Durante a conferência Black Hat 2024, especialistas demonstraram como o Copilot podia ser manipulado para realizar ações maliciosas, como exfiltrar dados e efetuar ataques de phishing de maneira invisível. O caso destacou os riscos de “prompt injections” — técnicas em que comandos são inseridos em interações para modificar o comportamento de modelos de IA
No setor de veículos autônomos, um exemplo recente foi a falha no sistema de direção autônoma da Amazon Zoox, que levou a acidentes envolvendo motociclistas. O evento sublinhou os desafios na proteção e segurança de dados sensoriais e na confiabilidade dos modelos de IA em situações de trânsito reais, evidenciando que hacks físicos podem comprometer a precisão dos dados, gerando resultados potencialmente perigoso
Como proteger estruturas de IA
Diante desses riscos expostos, é essencial implementar uma solução de segurança completa para IA, que assegure a integridade dos dados e dos modelos e ofereça monitoramento constante. Diversas ferramentas fornecem uma abordagem robusta para proteger a infraestrutura de Inteligência Artificial de maneira abrangente. Existem itens essenciais que devem ser avaliados no momento de definir a estratégia:
-
Monitoramento contínuo e detecção de ameaças: A plataforma deve realizar o monitoramento em tempo real de atividades suspeitas, detectando comportamentos anômalos e alterações não autorizadas em dados e modelos de IA.
-
Proteção contra envenenamento de dados e manipulação de modelos: Com medidas de controle e validação de dados, a solução deve ajudar a evitar que dados maliciosos comprometam o aprendizado e o funcionamento dos modelos.
-
Gestão de acessos e privacidade: A plataforma oferece controles avançados de acesso, prevenindo exposições desnecessárias e vazamentos de informações sensíveis. Assim, a segurança da propriedade intelectual é assegurada.
-
Automação para respostas imediatas: A solução deve possuir funcionalidades de automação que ajudam a identificar e corrigir vulnerabilidades, permitindo que as empresas respondam rapidamente a incidentes e mantenham sua infraestrutura de IA segura e funcional.
A segurança na inteligência artificial é uma prioridade para qualquer empresa que utilize essa tecnologia em operações críticas. Incidentes como os mencionados mostram o impacto que falhas de segurança podem causar e reforçam a necessidade de soluções que oferecem uma proteção robusta e uma abordagem abrangente para mitigar os riscos e maximizar a confiabilidade das implementações de IA. *Jonata Frohlich é Head de Segurança da Informação da Service IT.
Participe das comunidades IPNews no Instagram, Facebook, LinkedIn e X.
