CIOs e CTOs enfrentam crescente lacuna de controle de IA, aponta estudo da IBM

Um novo estudo do IBM Institute for Business Value revela que, à medida que a IA avança da experimentação para a implementação em toda a empresa, dois terços dos CIOs e CTOs entrevistados relatam ser responsabilizados por sistemas de IA que não controlam totalmente, enquanto a governança tem dificuldades para acompanhar o ritmo em escala.

O estudo global com 2 mil executivos de tecnologia de nível C (CxOs) mostra que a falta de visibilidade é generalizada. A maioria dos executivos entrevistados (70%) diz que as equipes de toda a empresa estão implementando tecnologia mais rápido do que a TI consegue acompanhar.

Ao mesmo tempo, líderes de tecnologia enfrentam uma pressão crescente para escalar a IA mais rapidamente, mesmo que muitos careçam das estruturas para suportá-la. Até 2027, os CxOs de tecnologia pesquisados preveem um aumento de 38% no número de agentes de IA implementados. Enquanto 80% dos entrevistados relatam mandatos de transformação da IA impulsionados pelos CEOs, apenas 11% acreditam estar totalmente prontos para a escala de implementação de agentes de IA esperada no próximo ano. A governança também está ficando para trás, com 77% das organizações pesquisadas relatando que a adoção da IA já está superando as capacidades atuais de governança.

“Para CIOs e CTOs, o desafio agora é escalar sistemas de IA que operam de forma contínua e autônoma, muitas vezes dentro de modelos e arquiteturas de governança projetados para um ambiente muito mais lento e previsível”, disse Matt Lyteson, CIO da IBM. “Não se trata mais apenas de implementar IA mais rápido. Está redesenhando como as organizações controlam, governam e investem nele, incorporando controle e visibilidade desde o início, para que possam escalar com confiança”, completou.

À medida que a IA cresce, os riscos operacionais e de segurança aumentam

– Análises mostram que, em organizações que dependem da governança manual, o risco de incidentes aumenta à medida que a adoção da IA cresce, enquanto aquelas que incorporam o controle diretamente em seus sistemas de IA experimentam 25% menos incidentes.

– A maioria (59%) dos CxOs de tecnologia pesquisados cita preocupações de segurança e conformidade como principais barreiras para a escalabilidade de agentes de IA.

– Organizações pesquisadas tiveram em média 54 incidentes com agentes de IA no ano passado, nos quais um ocorrido não intencional e/ou prejudicial exigiu correção humana.

– Segundo os entrevistados, 17% desses incidentes com agentes de IA relatados foram de alta gravidade, exigindo mais de quatro horas para serem contidos:

– 37% resultaram em exposição de dados ou violações de segurança

– 33% causaram falhas em cascata do sistema

– 17% desencadearam problemas de conformidade

Organizações que redesenham o controle e investimento em IA apresentam resultados mais fortes

– Projeta-se que os gastos com IA cresçam de pouco menos de 15% dos orçamentos de TI em 2025 para quase 25% até 2027 – um aumento de 71% em dois anos, elevando a importância de CIOs e CTOs.

– No entanto, 84% dos CxOs de tecnologia ainda não operacionalizaram totalmente a gestão financeira da IA, e 85% ainda não têm visibilidade total sobre o gasto em tempo real com IA.

A análise constata que organizações que incorporam controle em seus sistemas de IA:

– Implementar 16 vezes mais agentes de IA do que aqueles que dependem de governança manual;

– Entregar margens operacionais 18% maiores;

– Gastar 4 vezes menos do orçamento de IA deles.

A análise mostra organizações com forte disciplina financeira:

– Implementar 2,4x mais agentes de IA sem orçamento maior de IA/TI;

– São 3 vezes mais propensos a dizer que estão totalmente preparados para a escala da IA.

Organizações pesquisadas que projetaram adaptabilidade desde cedo – mantendo cargas de trabalho portáteis e modelos substituíveis em vez de presos a dependências rígidas – relataram um retorno 10% maior sobre o investimento em IA em 2025.

Serviço
www.ibm.com