Pesquisa do Gartner mostra que a IA generativa se tornou um risco emergente

A disponibilidade em massa de IA generativa, como o ChatGPT da OpenAI e o Google Bard, tornou-se uma das principais preocupações dos executivos de risco corporativo no segundo trimestre de 2023, de acordo com o Gartner. “A IA generativa foi o segundo risco nomeado com mais frequência em nossa pesquisa do segundo trimestre, aparecendo entre os 10 primeiros pela primeira vez”, disse Ran Xu, diretor de Pesquisa no Gartner Risk & Audit Practice. “Isso reflete tanto o rápido crescimento da conscientização pública e o uso de ferramentas generativas de IA, quanto a amplitude de possíveis casos de uso e, portanto, os riscos potenciais que essas ferramentas geram”, observou.

Em maio de 2023, o Gartner pesquisou 249 executivos sêniores de Risco Corporativo para fornecer aos líderes uma visão comparativa de 20 riscos emergentes. Os relatórios trimestrais de riscos emergentes incluem informações detalhadas sobre o possível impacto, cronograma, nível de atenção e oportunidades percebidas para esses riscos.

A viabilidade de terceiros foi o principal risco emergente que as organizações estão monitorando mais de perto na pesquisa do 2T23. A incerteza do planejamento financeiro foi o terceiro risco classificado, seguido pelo risco de concentração da Nuvem. As tensões comerciais na China completaram os cinco principais riscos que foram divididos entre questões sintomáticas da atual ampla volatilidade macroeconômica e geopolítica e preocupações relacionadas à tecnologia.

Disponibilidade de IA generativa em massa

O Gartner identificou anteriormente seis riscos de IA generativa e quatro áreas de regulamentação de IA que são relevantes para as funções de garantia. Em termos de gerenciamento de riscos corporativos, três aspectos principais devem ser abordados, de acordo com os especialistas do Gartner:

Propriedade intelectual

“As informações inseridas em uma ferramenta de IA generativa podem se tornar parte de seu conjunto de treinamento, o que significa que informações sensíveis ou confidenciais podem acabar saindo para outros usuários”, disse Xu. “Além disso, usar os resultados dessas ferramentas pode acabar inadvertidamente infringindo os direitos de propriedade intelectual de outras pessoas que as usaram”, comentou.

É importante educar a liderança corporativa sobre a necessidade de cautela e transparência em torno do uso de tais ferramentas para que os riscos de propriedade intelectual possam ser devidamente mitigados em termos de entrada e saída de ferramentas generativas de IA.

Privacidade dos dados

As ferramentas de IA generativa podem compartilhar informações do usuário com terceiros, como fornecedores ou provedores de serviços, sem aviso prévio. Isso tem o potencial de violar a lei de privacidade em muitas jurisdições. Por exemplo, a regulamentação já foi implementada na China e na UE, com propostas de regulamentação surgindo nos EUA, Canadá, Índia e Reino Unido, entre outros.

Cibersegurança

“Os hackers estão sempre testando novas tecnologias em busca de maneiras de subvertê-las para seus próprios fins, e a IA generativa não é diferente”, disse Xu. “Vimos exemplos de código de malware e ransomware que a IA generativa foi induzida a produzir, bem como ataques de ‘injeções imediatas’ que podem induzir essas ferramentas a fornecer informações que não deveriam. Isso está levando à industrialização de ataques avançados de phishing”, alertou.

Causas e implicações do risco de viabilidade de terceiros

“A inflação persistente, menos responsiva aos aumentos das taxas de juros e confusa por mais tempo do que o previsto, aumentou os custos e as pressões de margem sobre terceiros”, disse Xu. “À medida que os bancos centrais aumentam as taxas de juros para combater a inflação, isso também provoca um processo de restrição de crédito que pode forçar os fornecedores a suspender as operações ou se tornar insolventes à medida que os custos dos empréstimos aumentam”, comentou.

Se as condições econômicas se deteriorarem amplamente, isso pode causar uma queda inesperada na demanda que pode afetar a viabilidade do fornecedor ou sua capacidade de fornecer bens e serviços em tempo hábil. Os especialistas do Gartner identificaram três possíveis consequências de viabilidade de terceiros para os gerentes de risco monitorarem à medida que a situação se desenvolve:

Perda de insumos e materiais-chave: se terceiros estiverem aumentando seus preços devido à situação econômica mais ampla, há um risco claro de perder o acesso a insumos e materiais essenciais, pois terceiros favoreceriam clientes dispostos a pagar preços mais altos.

Premissas de planejamento financeiro deficientes: as suposições de custos serão invalidadas à medida que os fornecedores aumentarem ou falirem os preços, exigindo custos de troca e aumento de preços para a obtenção de bens e serviços.

Desafios fora da cadeia de suprimentos: parceiros, como provedores de serviços gerenciados ou parceiros comerciais, credores ou fornecedores de tecnologia podem interromper ou reduzir as operações.

Serviço
www.gartner.com