Disputas legais aumentarão 30% por conta de violações da IA, prevê Gartner

Até 2028, as violações regulatórias de IA resultarão em um aumento de 30% nas disputas legais para empresas de tecnologia, de acordo com o Gartner, empresa global de insights de negócios e tecnologia. Uma pesquisa do Gartner de maio a junho de 2025 com 360 líderes de TI envolvidos na implementação de ferramentas de IA generativa (GenAI) descobriu que mais de 70% indicaram que a conformidade regulatória está entre os três principais desafios para a implementação generalizada de assistentes de produtividade GenAI na organização.

Apenas 23% dos entrevistados estão muito confiantes na capacidade de sua organização de gerenciar componentes de segurança e governança ao implementar ferramentas GenAI em seus aplicativos corporativos.

“As regulamentações globais de IA variam amplamente, refletindo a avaliação de cada país sobre seu alinhamento apropriado de liderança, inovação e agilidade de IA com as prioridades de mitigação de riscos”, disse Lydia Clougherty Jones, analista diretora sênior do Gartner. “Isso leva a obrigações de conformidade inconsistentes e muitas vezes incoerentes, complicando o alinhamento do investimento em IA com o valor demonstrável e repetível da empresa e possivelmente abrindo as empresas a outras responsabilidades”, completou.

Ao mesmo tempo, o impacto do clima geopolítico está crescendo constantemente, mas a capacidade de resposta fica para trás. Cinquenta e sete por cento dos líderes de TI não americanos da mesma pesquisa indicaram que o clima geopolítico impactou pelo menos moderadamente a estratégia e a implantação do GenAI, com 19% dos entrevistados relatando que isso teve um impacto significativo. No entanto, quase 60% dos entrevistados relataram que não conseguiam ou não queriam adotar alternativas de ferramentas GenAI não americanas.

A soberania da IA desempenha um papel fundamental na estratégia de IA

Em uma pesquisa de webinar do Gartner de 3 de setembro de 2025, 40% dos 489 entrevistados indicaram que o sentimento de sua organização em relação à soberania da IA – definida como a capacidade dos estados-nação de controlar o desenvolvimento, a implementação e a governança de tecnologias de IA em suas jurisdições – é “positivo” (como visto com esperança e oportunidade), e 36% indicaram que o sentimento de sua organização era “neutro” (como em uma abordagem de “esperar para ver”).

Na mesma pesquisa, 66% dos entrevistados indicaram que eram proativos e/ou engajados em resposta à estratégia de IA soberana e 52% indicaram que sua organização estava fazendo mudanças estratégicas ou de modelo operacional como resultado direto da IA soberana.

Com as ferramentas GenAI, como os assistentes de produtividade GenAI, tornando-se mais onipresentes em ambientes geopolíticos e jurídicos incertos e flutuantes, especialmente com a soberania da IA em mente, os líderes de TI devem fortalecer imediatamente a moderação dos resultados tomando as seguintes medidas:

– Projete a autocorreção treinando modelos para se autocorrigirem e não responderem a certas perguntas em tempo real, comunicando uma frase como “além do escopo”.

– Crie procedimentos rigorosos de revisão de casos de uso que avaliem o risco de “saída do chatbot para ação humana indesejada”, do ponto de vista legal, ético, de segurança e impacto do usuário; use testes de controle em torno da fala gerada por IA, medindo o desempenho em relação à tolerância ao risco estabelecida pela organização.

– Aumente o teste/sandboxing do modelo criando uma equipe de fusão interdisciplinar de engenheiros de decisão, cientistas de dados e consultores jurídicos para projetar protocolos de pré-teste e testar e validar a saída do modelo em relação à saída de conversação indesejada. Documente os esforços dessa equipe para mitigar termos indesejados nos dados de treinamento do modelo e temas indesejados na saída do modelo.

– Injete técnicas de moderação de conteúdo, como “botões de denúncia de abuso” e “rótulos de aviso de IA”.