Cisco Talos alerta para a proliferação de LLMs para fins criminosos na Dark Web

Um novo estudo da Cisco Talos, braço de inteligência de ameaças da Cisco em nível global, alerta em relação ao uso de tecnologias de Inteligência Artificial (IA) por cibercriminosos, em especial os LLMs (sigla em inglês para Grandes Modelos de Linguagem) com objetivo de aprimorar suas atividades criminosas. Alguns desses cibercriminosos chegaram a desenvolver seus próprios modelos sem restrições para comercializá-los para outros hackers. Entre esses LLMs, estão aplicativos como GhostGPT, WormGPT, DarkGPT, DarkestGPT e FraudGPT.

Entre os destaque do relatório estão:

– Os cibercriminosos continuam a explorar tecnologias de inteligência artificial (IA), como grandes modelos de linguagem (LLMs), para ajudar em suas atividades criminosas de hackers.

– Alguns cibercriminosos recorreram ao uso de LLMs sem censura ou até mesmo LLMs criminais personalizados para fins ilícitos.

– Os recursos anunciados de LLMs maliciosos indicam que os cibercriminosos estão conectando esses sistemas a várias ferramentas externas para enviar e-mails enviados, verificar sites em busca de vulnerabilidades, verificar números de cartão de crédito roubados e muito mais.

– Os cibercriminosos também abusam da tecnologia legítima de IA, como o jailbreak de LLMs legítimos, para ajudar em suas operações.

A IA generativa e os LLMs conquistaram o mundo. Com a capacidade de gerar texto convincente, resolver problemas, escrever código de computador e muito mais, os LLMs estão sendo integrados em quase todas as facetas da sociedade. De acordo com a Hugging Face (uma plataforma que hospeda modelos), existem atualmente mais de 1,8 milhão de modelos diferentes para escolher.

Os LLMs geralmente são construídos com os principais recursos de segurança, incluindo alinhamento e guardrails. O alinhamento é um processo de treinamento pelo qual os LLMs passam para minimizar o viés e garantir que o LLM gere resultados consistentes com os valores humanos e a ética. As proteções, ou guardrails, são mecanismos de segurança adicionais em tempo real que tentam impedir que o LLM se envolva em ações prejudiciais ou indesejáveis em resposta à entrada do usuário. Muitos dos LLMs mais avançados (ou “de fronteira”) são protegidos dessa maneira. Por exemplo, pedir ao ChatGPT para produzir um e-mail de phishing resultará em uma negação, como: “Desculpe, não posso ajudar com isso”.

Para os cibercriminosos que desejam utilizar LLMs para conduzir ou melhorar seus ataques, esses mecanismos de segurança podem representar um obstáculo significativo. Para atingir seus objetivos, os cibercriminosos estão cada vez mais gravitando em direção a LLMs sem censura, LLMs projetados por cibercriminosos e LLMs legítimos com jailbreak.

LLMs sem censura

Os LLMs sem censura são modelos não alinhados que operam sem as restrições de proteções. Esses sistemas geram resultados sensíveis, controversos ou potencialmente prejudiciais em resposta às solicitações do usuário. Como resultado, os LLMs sem censura são perfeitamente adequados para uso cibercriminoso.

Os LLMs sem censura são muito fáceis de encontrar. Por exemplo, usando a estrutura Omni-Layer Learning Language Acquisition (Ollama) multiplataforma, um usuário pode baixar e executar um LLM sem censura em sua máquina local. Ollama vem com vários modelos sem censura, como Llama 2 Uncensored, que é baseado no modelo Llama 2 da Meta. Depois de executado, os usuários podem enviar prompts que, de outra forma, seriam rejeitados por implementações de LLM mais preocupadas com a segurança. A desvantagem é que esses modelos estão sendo executados nas máquinas locais dos usuários e a execução de modelos maiores, que geralmente produzem melhores resultados, requer mais recursos do sistema.

Outro LLM sem censura popular entre os cibercriminosos é uma ferramenta chamada WhiteRabbitNeo. O WhiteRabbitNeo se autodenomina um “modelo de IA sem censura para equipes (Dev) SecOps” que pode oferecer suporte a “casos de uso para segurança cibernética ofensiva e defensiva”. Este LLM terá prazer em escrever ferramentas de segurança ofensivas, e-mails de phishing e muito mais.

A CiscoTalos tentou obter acesso ao FraudGPT entrando em contato com CanadianKingpin12 no Telegram. Após uma negociação considerável, finalmente ofereceram um nome de usuário e senha no site da Dark Web FraudGPT. No entanto, o nome de usuário e a senha fornecidos pelo CanadianKingpin12 não funcionaram. CanadianKingpin12 então pediu para enviar criptomoeda para comprar um “crack” de software para a página de login do FraudGPT. Nesse ponto, ficou claro que o CanadianKingpin12 não tinha nenhum produto funcional e eles estavam enganando clientes em potencial do FraudGPT com sua criptomoeda.