Nava lista principais preocupações de cibersegurança relacionadas à IA

De acordo com o estudo Cost of a Data Breach 2023, realizado pela IBM, 42% das violações de dados resultaram na perda de informações em diversos ambientes. O relatório ainda avalia que 84% das empresas estão focadas em soluções de cibersegurança impulsionadas pela Inteligência Artificial (IA).

Para Wesney Silva, head of Cybersecurity da Nava Technology for Business, empresa que fornece serviços e soluções de tecnologia, com o aumento do uso da IA em uma variedade de setores, as preocupações com segurança cibernética em torno dessa tecnologia têm se intensificado. “A IA pode ser vulnerável a ataques cibernéticos de várias maneiras, e é crucial compreender essas vulnerabilidades para implementar medidas de segurança eficazes. Com isso, é essencial sabermos os riscos associados e como pode ser comprometida”, explica.

“É crucial que as organizações estejam cientes das potenciais ameaças à segurança cibernética relacionadas à IA e implementem medidas de proteção adequadas. Aqui, na Nava, estamos comprometidos em fornecer soluções de segurança avançadas para proteger nossos clientes contra essas ameaças em constante evolução”, complementa.

Entre os principais cuidados de cibersegurança relacionados à IA, Wesney destaca:

 Ataques de Envenenamento de Dados (Data Poisoning): a inserção de dados maliciosos durante o treinamento de modelos de IA pode levar a previsões incorretas e decisões comprometidas.

Exploração de Vulnerabilidades de Modelo (Model Exploitation): ataques de evasão podem comprometer a integridade dos sistemas de IA, levando a decisões incorretas e potencialmente perigosas.

Ataques de Extração de Modelo (Model Extraction): a extração de informações sobre o modelo pode permitir que adversários compreendam as fraquezas do sistema ou até mesmo recriem modelos semelhantes para seus próprios fins maliciosos.

Adversidades na Privacidade dos Dados (Privacy Adversaries): ataques de inferência podem comprometer a privacidade dos usuários, permitindo que adversários obtenham informações sensíveis sobre os dados de treinamento.

Ataques de Interrupção de Serviço (Disruption of Service): IAs que fazem parte do ecossistema de serviços críticos podem ser alvos de ataques DoS ou DDoS, buscando tornar o sistema indisponível para uso legítimo.

Viés Algorítmico (Algorithmic Bias): os modelos de IA podem perpetuar ou amplificar vieses presentes nos dados de treinamento, levando a resultados discriminatórios ou injustos.