Quatro formas de reduzir riscos do Aprendizado de Máquina à Segurança das empresas

Diferentes modelos de Machine Learning vêm sendo utilizados em aplicações de comunicação wireless, biometria, entre tantas outras abarcadas pelo setor empresarial, especialmente entre as BioIIIg Techs; a adoção se dá principalmente, mas não exclusivamente, por sua ampla capacidade de classificação de Dados. No entanto, estudos recentes mostram que esses modelos também possuem vulnerabilidades do ponto de vista da segurança digital.

Segundo um estudo conduzido pelo especialista em cibersegurança da Tempest, Paulo Freitas, a partir de uma técnica conhecida como Ataque Adversarial – usada para manipular de forma arbitrária a capacidade que uma rede neural possui de identificar e classificar um Dado – é possível comprometer modelos de Machine Learning a partir da introdução de “ruídos imperceptíveis no Dado”, gerando perturbações e induzindo o modelo a erros, como por exemplo classificar um malware ou um vírus como um arquivo legítimo.

O especialista traz algumas recomendações para empresas que estão inovando no uso de tecnologias minimizem os riscos inerentes.

Alargar as fronteiras que dividem as categorias de Dados. Fronteira é o limite que determina se um Dado está classificado da maneira certa ou errada. Adicionar Dados que contenham ruídos e utilizar técnicas que gerem perturbação são formas de modificar o treinamento da rede, dificultando a adulteração por tornar os dados do sistema mais complexos.

Remover os ruídos. Criar uma caixa preta de algoritmos e redes neurais de forma que o ruído seja removido antes de fornecer a imagem para o alvo do ataque adversarial.

Detectar a presença de ruídos. Ao invés de remover o ruído, uma solução é simplesmente detectá-lo , pois quando isso é feito já há uma sinalização de um possível problema. Mesmo que não se apresente a solução de imediato, a técnica serve para colocar as equipes de segurança em prontidão.

Ampliar o número de classificadores. Classificadores são os possíveis alvos dos atacantes. Quando se amplia o número, o atacante terá de forçar a maioria dos classificadores a cometerem erro, o que torna menos provável o ataque ter sucesso.

A Tempest Security Intelligence é uma empresa brasileira com atuação global. É a maior companhia brasileira especializada em cibersegurança e prevenção a fraudes digitais. Sediada no Recife, a Tempest conta também com escritórios em São Paulo e Londres, com mais de 500 colaboradores. Em 2020, a Tempest conquistou um parceiro de peso para continuar na vanguarda da cibersegurança, recebendo um grande aporte da Embraer, companhia brasileira de engenharia aeroespacial, o qual resultou em um dos maiores investimentos já realizados na história do setor de cibersegurança na América Latina.