Pesquisa da Veeam revela uma lacuna crescente de confiança entre dados e IA

A Veeam Software, empresa global de confiança em dados e IA, revelou os resultados de uma nova pesquisa global, intitulada Data and AI Trust Gap. O relatório expõe uma lacuna gritante e crescente no cerne da IA ​​empresarial. Embora 88% das organizações já estejam usando ou testando agentes de IA, apenas 7% se qualificam como verdadeiramente preparadas para IA e 95% afirmam que os desafios relacionados a dados já retardaram seu progresso em IA. À medida que a IA baseada em agentes passa dos projetos-piloto para a produção, as organizações enfrentam um desafio urgente: garantir que os dados que alimentam esses sistemas sejam visíveis, governados, seguros e resilientes.

A pesquisa, baseada em um levantamento global com 600 executivos seniores dos setores de serviços financeiros, saúde, manufatura, varejo e tecnologia, revela que a adoção da IA ​​está crescendo dramaticamente mais rápido do que as estruturas de governança criadas para gerenciá-la. Apesar do forte investimento e da intenção dos executivos, a capacidade de controlar, monitorar e se recuperar de falhas da IA ​​ainda está criticamente subdesenvolvida.

Principais conclusões mostram que a IA está se expandindo mais rapidamente do que o controle:

– Apenas 7% das organizações estão verdadeiramente preparadas para a IA.

– 88% já estão usando ou testando agentes de IA.

– Apenas 28% acreditam que conseguem detectar sistemas de IA operando fora dos parâmetros aprovados.

– 95% afirmam que os desafios relacionados aos dados já retardaram o progresso da IA.

Os dados revelam uma clara lacuna de confiança entre a adoção da IA ​​e a governança, a visibilidade e o controle necessários para apoiá-la.

“A maioria das organizações não tem um problema de adoção de IA; elas têm um problema de confiança na IA”, disse Anand Eswaran, CEO da Veeam. “A primeira fase da IA ​​foi definida por investimento em infraestrutura, experimentação e aceleração. A próxima fase será definida pela confiança. Com a ampla adoção de agentes de IA autônomos operando na velocidade das máquinas, a questão deixa de ser se você pode usar IA e passa a ser se você pode garantir que todos os seus dados estejam seguros, governados, em conformidade e resilientes. E, caso algo dê errado, você consegue se recuperar com precisão? É assim que se acelera a IA segura em escala sem acelerar os riscos operacionais e de reputação”, afirmou.

A confiança da alta administração mascara uma discrepância na realidade operacional

A pesquisa revela uma significativa discrepância de percepção entre a diretoria e as equipes operacionais responsáveis ​​pela implementação dos resultados da IA. O progresso frequentemente estagna entre a intenção e a execução: a governança é inconsistente, os dados são gerenciados de forma reativa e a responsabilidade é atribuída, mas fragmentada.

– 65% dos CEOs acreditam ter um inventário completo de IA, em comparação com apenas 48% dos líderes técnicos.

– 52% dos CEOs acreditam que lideram ativamente com base em dados, mas apenas 41% dos CISOs e 38% dos CIOs concordam.

– 48% dos CEOs acreditam que dados confiáveis, seguros e em conformidade com as normas podem gerar um crescimento de receita superior a 25%.

– 83% dos CEOs sentem pressão para acelerar o desenvolvimento de suas capacidades em IA e dados.

Essa combinação de rápida adoção da IA, juntamente com visibilidade incompleta e responsabilidade pouco clara, cria as condições para falhas difíceis de detectar, explicar e conter.

Quando a IA falhar, não parecerá apenas uma interrupção do serviço

À medida que os sistemas de IA se tornam mais autônomos, a natureza das falhas está mudando. O risco está migrando das tradicionais interrupções do sistema para falhas no nível dos dados, que são mais difíceis de detectar, explicar e conter. A pesquisa alerta que erros em velocidade de máquina podem superar a capacidade de detecção, forçando a resiliência a evoluir de uma recuperação ampla para uma recuperação precisa – restaurando apenas o que foi afetado, em vez de reverter ambientes inteiros.

Entre as organizações que utilizam IA atualmente, apenas uma minoria consegue identificar o problema em poucos minutos:

– A qual sistemas teve acesso (29%).

– Quais ações foram tomadas (25%).

– Que decisões influenciou (24%).

– Quais dados o sistema utilizou (22%).

– Apenas 40% dos líderes estão muito confiantes de que podem isolar e reverter com precisão uma falha de IA ativa.

A governança está convergindo para os dados

O desafio da governança está convergindo em dados provenientes de duas direções: demanda interna e escrutínio externo. Dentro das organizações, o uso não autorizado de IA já é comum:

– 95% relatam uso não autorizado de IA em suas organizações e 93% consideram isso um risco significativo.

– No entanto, apenas 25% oferecem alternativas aprovadas, o que significa que a maioria está tentando suprimir a demanda em vez de governá-la de forma eficaz.

– 44% afirmam que o aumento do risco cibernético é o principal risco da “IA paralela”.

Confiança exige responsabilidade, não ambiguidade compartilhada

A nova pesquisa mostra que as principais barreiras ao progresso são a propriedade fragmentada e as disciplinas operacionais desalinhadas – com as responsabilidades por dados, IA e governança frequentemente distribuídas entre as equipes de maneiras que diluem a responsabilidade e atrasam a execução. Quando “todo mundo é responsável”, ninguém consegue definir políticas de forma decisiva, impor controles ou comprovar resultados.

Quando a responsabilidade é claramente definida, os resultados melhoram significativamente:

– Organizações onde os CISOs são responsáveis ​​pela gestão de riscos dos agentes de IA têm 24% mais probabilidade de detectar comportamentos maliciosos de IA.

– Organizações que dependem de propriedade compartilhada têm 47% menos probabilidade de detectar comportamentos maliciosos de IA.

– Os dados não precisam de mais um defensor – precisam de uma liderança responsável e forte o suficiente para alinhar governança, segurança, privacidade, conformidade e resiliência.

Serviço
www.veeam.com