CrowdStrike lança AI Red Team Services para proteger sistemas de IA

A CrowdStrike, empresa global de segurança cibernética, lançou nesta quinta-feira (7/11) o CrowdStrike AI Red Team Services, reforçando sua atuação na proteção da infraestrutura, sistemas e modelos que impulsionam a revolução da IA. Aproveitando a inteligência de ameaças de classe mundial da CrowdStrike e a experiência de elite em táticas de adversários do mundo real, esses serviços especializados identificam e ajudam a mitigar proativamente vulnerabilidades em sistemas de IA, incluindo Large Language Models (LLMs), para que as organizações possam impulsionar a inovação segura de IA com confiança.

À medida que as organizações adotam a IA em um ritmo acelerado, novas ameaças, como adulteração de modelos, envenenamento de dados, exposição de dados confidenciais e muito mais, visam cada vez mais aplicativos de IA e seus dados subjacentes. O comprometimento de sistemas de IA, incluindo LLMs, pode resultar em violação de confidencialidade, redução da eficácia do modelo e aumento da suscetibilidade à manipulação adversária.

Anunciado na Fal.Con Europe, a principal conferência inaugural de usuários da CrowdStrike na região, o CrowdStrike AI Red Team Services fornece às organizações avaliações abrangentes de segurança para sistemas de IA, incluindo LLMs e suas integrações, para identificar vulnerabilidades e configurações incorretas que podem levar a violações de dados, execução não autorizada de código ou manipulação de aplicativos. Por meio de exercícios avançados de equipe vermelha, testes de penetração e avaliações direcionadas, combinados com inovações da plataforma Falcon, como Falcon Cloud Security AI-SPM e Falcon Data Protection, a CrowdStrike permanece na vanguarda da segurança de IA.

Os principais recursos do serviço incluem:

Defesa proativa de IA: identifica vulnerabilidades em sistemas de IA, em alinhamento com as técnicas de ataque OWASP Top 10 LLM padrão do setor, antes que os adversários possam explorá-las, aprimorando a proteção contra ameaças emergentes.

Emulações adversárias do mundo real: oferece cenários de ataque personalizados específicos para cada aplicativo de IA, garantindo que os sistemas sejam testados contra as ameaças mais relevantes.

Validação de segurança abrangente: fornece insights acionáveis para fortalecer a resiliência das integrações de IA em um cenário de ameaças em evolução.

“A IA está revolucionando as indústrias, ao mesmo tempo em que abre novas portas para ataques cibernéticos”, disse Tom Etheridge, diretor de Serviços Globais da CrowdStrike. “A CrowdStrike lidera o caminho na proteção das organizações à medida que adotam tecnologias emergentes e impulsionam a inovação. Nossos novos serviços AI Red Team identificam e ajudam a neutralizar possíveis vetores de ataque antes que os adversários possam atacar, garantindo que os sistemas de IA permaneçam seguros e resilientes contra ataques sofisticados”, finalizou.