Prompt Injection obriga a uma agenda de Governança para IA Agêntica nas empresas

A rápida adoção da IA Agêntica está ampliando a superfície de ataque das organizações e impondo novos desafios às estratégias tradicionais de Cibersegurança. Entre as principais ameaças está o Prompt Injection, técnica que utiliza linguagem natural para alterar o comportamento de Modelos de Linguagem (LLMs), influenciando decisões, acessos e respostas sem explorar vulnerabilidades convencionais de software. À medida que agentes inteligentes passam a operar processos críticos e consumir informações de múltiplas fontes, especialistas apontam que mecanismos de governança, controle de contexto e monitoramento contínuo tornam-se componentes essenciais da arquitetura de Segurança corporativa.

O impacto potencial desse tipo de ataque tem sido comparado ao do SQL Injection na evolução da Segurança de aplicações. A relevância do tema já é reconhecida pelos principais organismos internacionais da área. O Instituto Nacional de Padrões e Tecnologia dos Estados Unidos (NIST) classifica o Prompt Injection como uma das principais vulnerabilidades da IA Generativa, enquanto a OWASP posiciona essa categoria no topo dos riscos para aplicações baseadas em Grandes Modelos de Linguagem (LLMs), reforçando a necessidade de novas abordagens para proteger ambientes corporativos.

Governança como pilar da IA
Ao contrário dos softwares tradicionais, em que o usuário interage por meio de fluxos previamente definidos, agentes de IA operam com elevado grau de autonomia, acessando diferentes fontes de informação para interpretar contexto, executar tarefas e tomar decisões.

Segundo Kleber Bacili, CEO e cofundador da Sensedia, essa mudança altera também a forma como as empresas precisam pensar em Segurança.

“No software tradicional, o ataque explora uma falha de código. No Prompt Injection, ele explora a forma como o modelo entende a linguagem, e isso muda o jogo. Um agente de IA lê documentos, APIs, e-mails e bases corporativas ao mesmo tempo, e trata quase tudo como instrução. Sem Governança sobre esse contexto, qualquer conteúdo que ele consome vira um vetor de ataque em potencial”, explica Kleber.

A mesma capacidade que permite aos agentes compreender contexto, integrar múltiplas fontes de informação e executar tarefas de forma autônoma também amplia significativamente sua superfície de ataque, especialmente quando esses sistemas operam sobre aplicações corporativas, APIs e Dados críticos.

O cenário torna-se ainda mais complexo à medida que agentes de IA passam a consumir APIs para acessar sistemas corporativos, executar transações e orquestrar processos de negócio de forma autônoma. Nesse modelo, a proteção deixa de envolver apenas aplicações, infraestrutura e identidade, passando a abranger também o contexto utilizado pelos modelos para interpretar informações e tomar decisões. Como resultado, arquiteturas baseadas em IA passam a exigir novas camadas de Governança, Observabilidade e controle sobre as interações entre agentes, modelos de linguagem, APIs e sistemas corporativos.

Quando esses agentes entram em produção sem mecanismos robustos de governança, as organizações ficam expostas ao chamado “caos agêntico”, cenário caracterizado pela expansão desordenada da IA, aumento da dificuldade de controle operacional e crescimento dos riscos associados ao uso dos modelos.

Nesse contexto, os impactos podem incluir vazamento de Dados, exposição de informações sensíveis, elevação descontrolada dos custos de inferência dos modelos, especialmente relacionados ao consumo de tokens, além de consequências para Compliance, continuidade operacional e reputação corporativa.

O risco na prática
O Prompt Injection já começa a aparecer em ambientes institucionais brasileiros. Recentemente, uma tentativa desse tipo de ataque foi identificada no ecossistema de IA da Justiça do Trabalho. Duas advogadas inseriram instruções ocultas em letras brancas dentro de uma petição judicial com o objetivo de influenciar a análise realizada pelo sistema de IA do tribunal.

A tentativa foi detectada pelo Galileu, plataforma oficial de IA da Justiça do Trabalho, que identificou os comandos ocultos e emitiu um alerta ao magistrado responsável antes que qualquer impacto ocorresse.

“O mercado ainda associa ataques cibernéticos à exploração de falhas técnicas. Mas o Prompt Injection mostra que o cenário mudou: em muitos casos, basta manipular a linguagem para influenciar o comportamento de uma IA. O episódio recente envolvendo a Justiça do Trabalho deixou isso claro, ao utilizar uma instrução oculta em texto branco, sem qualquer exploração de código. Isso reforça que Segurança e Governança não podem ser tratadas como uma etapa posterior. Elas precisam fazer parte da arquitetura das soluções de IA desde o início”, afirma Bacili.

Como o Prompt Injection explora a forma como os modelos interpretam linguagem, e não vulnerabilidades tradicionais de autenticação ou infraestrutura, sua mitigação depende de mecanismos capazes de controlar contexto, validar informações consumidas pelos agentes, monitorar interações em tempo real e estabelecer políticas de Governança para aplicações baseadas em IA.

“Se na última década a Segurança girava em torno de aplicação, infraestrutura e identidade, na era Agêntica ela passa a incluir o contexto que orienta as decisões do modelo. Segurança deixa de ser uma camada que se adiciona depois e vira requisito estrutural. As organizações que tratarem Observabilidade e Governança como parte nativa da plataforma conseguirão escalar IA com segurança, conformidade e previsibilidade operacional”, conclui o executivo.