A Cisco lançou o AI Defense, uma solução construída especialmente para que as empresas possam desenvolver, implantar e proteger aplicações de inteligência artificial (IA) com confiança. O lançamento busca destravar projetos em empresas que entendem os riscos de segurança que a IA traz, garantindo que a inovação possa se desenvolver em prol do negócio.
CONTEÚDO RELACIONADO: Seis previsões para o uso de inteligência artificial em 2025
De acordo com o Índice de Prontidão de IA da Cisco, apenas 29% dos entrevistados se sentem totalmente equipados para detectar e prevenir adulterações não autorizadas com a IA. Os desafios de segurança também são novos e complexos, com as aplicações sendo multi-modelo e multi-nuvem, com vulnerabilidades podendo ocorrer em qualquer ambiente. Os riscos só aumentam conforme as empresas avançam além dos dados públicos e começam a treinar modelos com dados proprietários.
A Cisco defende que, para abrir caminho com objetivo de inovação e adoção da IA, as empresas precisam de uma camada comum de segurança que proteja cada usuário e aplicação. Isso porque, a partir do momento em que a IA se torna onipresente, as empresas usarão e desenvolverão centenas, senão milhares de aplicações de IA.
Os desenvolvedores precisam de um conjunto de diretrizes de segurança e proteção que funcione para cada aplicação. O AI Defense ajuda os desenvolvedores a se moverem rapidamente e agregarem maior valor ao proteger sistemas de IA contra ataques e proteger o comportamento do modelo, em todas as plataformas.
As capacidades do AI Defense incluem:
- Descoberta de IA: As equipes de segurança precisam entender quem está construindo aplicações e as fontes de treinamento que usam. O Defense AI detecta aplicações de shadow AI e sancionadas em nuvens públicas e privadas.
- Validação de modelos: O ajuste de modelos pode levar a resultados tóxicos e inesperados. Testes automatizados verificam modelos de IA em busca de centenas de possíveis problemas de segurança e proteção. Este algoritmo orientado por IA identifica potenciais vulnerabilidades e recomenda diretrizes para as equipes de segurança usarem no AI Defense.
- Segurança em tempo de execução: A validação contínua protege contra ameaças potenciais de segurança e proteção, como injeção de prompts, negação de serviço e vazamento de dados sensíveis de forma contínua.
- Segurança no acesso a aplicações de IA: Conforme os usuários finais se apressam para adotar aplicações de IA, como ferramentas de sumarização para melhorar sua produtividade, as equipes de segurança precisam prevenir vazamentos de dados e o envenenamento de dados proprietários. O AI Defense capacita as equipes de segurança com:
- Visibilidade: Fornece uma visão abrangente de aplicações habilitadas de shadow AI usadas por funcionários.
- Controle de acesso: Implementa políticas que restringem o acesso dos funcionários a ferramentas de IA não sancionadas.
- Proteção de dados e ameaças: Protege continuamente contra ameaças e perda de dados confidenciais enquanto garante conformidade.
Diferenciais
Ao contrário das diretrizes de segurança incorporadas em modelos de IA individuais, a Cisco diz que sua solução oferece controles consistentes para um mundo multi-modelo. O AI Defense é auto-otimizável, aproveitando os modelos de machine learning proprietários da Cisco para detectar preocupações de segurança e proteção da IA em constante evolução, com base em dados de inteligência de ameaças da Cisco Talos.
Clientes da Splunk (solução de monitoramento de dados que faz parte da Cisco) que usam o AI Defense receberão alertas enriquecidos com contexto adicional de todo o ecossistema. A solução se integra perfeitamente com os fluxos de dados existentes para visibilidade e controle inigualáveis e está integrada à Security Cloud, a plataforma de segurança unificada e orientada por IA da Cisco que abrange vários domínios.
Ela aproveita a abrangência de execução da Cisco para realizar segurança de IA no nível da rede de uma maneira que apenas a Cisco está otimizada para entregar. Precisão e confiabilidade são essenciais para proteger aplicações de IA empresariais, e a Cisco tem se envolvido ativamente no desenvolvimento de padrões da indústria para segurança de IA, incluindo aqueles da MITRE, OWASP e NIST.
A nova solução estará disponível em março para que as empresas protejam suas transformações de IA.
Participe das comunidades do IPNews no Instagram, Facebook, LinkedIn e X.