Novo Cisco AI Defense amplia proteção da rede contra ameaças de IA

A Cisco, provedora global de soluções de segurança e rede, anunciou nesta quarta-feira (15/1) o Cisco AI Defense, uma solução para permitir e proteger a transformação da IA nas empresas. À medida que a tecnologia de IA avança, novas preocupações e ameaças de segurança estão surgindo em uma velocidade sem precedentes contra as quais as soluções de segurança existentes não estão preparadas para proteger. O Cisco AI Defense foi desenvolvido especificamente para que as empresas desenvolvam, implementem e protejam aplicativos de IA com confiança.

“Os líderes de negócios e tecnologia não podem se dar ao luxo de sacrificar a segurança pela velocidade ao adotar a IA”, disse Jeetu Patel, vice-presidente executivo e diretor de Produtos da Cisco. “Em um cenário dinâmico onde a competição é acirrada, a velocidade decide os vencedores. Fundido na malha da rede, o Cisco AI Defense combina a capacidade exclusiva de detectar e proteger contra ameaças ao desenvolver e acessar aplicativos de IA sem compensações”, completou.

As apostas de algo dar errado com a IA são incrivelmente altas. De acordo com o Índice de Prontidão para IA de 2024 da Cisco, apenas 29% dos entrevistados se sentem totalmente equipados para detectar e prevenir adulterações não autorizadas de IA. Os desafios de segurança também são novos e complexos, com aplicativos de IA sendo multimodelo e Multinuvem. As vulnerabilidades podem ocorrer no nível do modelo ou do aplicativo, enquanto a responsabilidade recai sobre diferentes proprietários, incluindo desenvolvedores, usuários finais e fornecedores. À medida que as empresas vão além dos dados públicos e começam a treinar modelos em dados proprietários, os riscos só aumentam.

Para desbloquear a inovação e a adoção da IA, as empresas precisam de uma camada comum de segurança e proteção que proteja todos os usuários e todos os aplicativos. O AI Defense permite as transformações de IA das empresas, abordando dois riscos urgentes:

Desenvolvimento e implantação de aplicativos seguros de IA: à medida que a IA se torna onipresente, as empresas usarão e desenvolverão centenas, senão milhares, de aplicativos de IA. Os desenvolvedores precisam de um conjunto de proteções de segurança e proteção de IA que funcionem para cada aplicativo. O AI Defense ajuda os desenvolvedores a se moverem rapidamente e a obter maior valor, protegendo os sistemas de IA contra ataques e protegendo o comportamento do modelo em todas as plataformas. Os recursos do AI Defense incluem:

Descobrindo a IA: as equipes de segurança precisam entender quem está criando aplicativos e as fontes de treinamento que usam. O AI Defense detecta aplicativos de IA ocultos e sancionados em nuvens públicas e privadas.

Validação do modelo: o ajuste do modelo pode levar a resultados tóxicos e inesperados. Os testes automatizados verificam os modelos de IA em busca de centenas de possíveis problemas de segurança e proteção. Essa equipe vermelha algorítmica orientada por IA identifica possíveis vulnerabilidades e recomenda proteções no AI Defense para as equipes de segurança usarem.

Segurança em tempo de execução: a validação contínua protege contra possíveis ameaças de segurança e proteção, como injeção imediata, negação de serviço e vazamento de dados confidenciais continuamente.

Protegendo o acesso a aplicativos de IA

À medida que os usuários finais correm para adotar aplicativos de IA, como ferramentas de resumo, para melhorar sua produtividade, as equipes de segurança precisam evitar o vazamento de dados e o envenenamento de dados proprietários. O AI Defense permite que as equipes de segurança:

Visibilidade: fornece uma visão abrangente dos aplicativos habilitados para IA de sombra e sancionados usados pelos funcionários.

Controle de acesso: implementa políticas que restringem o acesso dos funcionários a ferramentas de IA não sancionadas.

Proteção de dados e ameaças: protege continuamente contra ameaças e perda de dados confidenciais, garantindo a conformidade.

Ao contrário das proteções de segurança incorporadas em modelos de IA individuais, a Cisco oferece controles consistentes para um mundo com vários modelos. O AI Defense é auto-otimizado, aproveitando os modelos de aprendizado de máquina proprietários da Cisco para detectar preocupações de segurança e proteção de IA em constante evolução com base em dados de inteligência de ameaças do Cisco Talos.

Os clientes da Splunk que usam o AI Defense receberão alertas enriquecidos com contexto adicional de todo o ecossistema. O AI Defense se integra perfeitamente aos fluxos de dados existentes para visibilidade e controle incomparáveis e é integrado ao Security Cloud, a plataforma de segurança unificada, orientada por IA e entre domínios da Cisco. Ele aproveita a extensa malha de pontos de aplicação da Cisco para executar a segurança de IA no nível da rede de uma maneira que apenas a Cisco é otimizada para oferecer. Precisão e confiabilidade são essenciais para proteger aplicativos corporativos de IA, e a Cisco tem estado ativamente envolvida no desenvolvimento de padrões do setor de segurança de IA, incluindo os do Mitre, OWASP e Nist.