Estudo global do SAS/IDC alerta para riscos do uso de IA no setor público

Organizações governamentais demonstram um nível geral de maturidade em Inteligência Artificial (IA) surpreendentemente elevado. No entanto, os investimentos do setor em tecnologias e governança voltadas à IA confiável frequentemente ficam aquém do necessário. Isso indica que muitos órgãos podem estar implementando soluções avançadas de IA sobre bases de dados frágeis, o que aumenta o risco de resultados com vieses, falhas de segurança e problemas operacionais de alto custo. As conclusões fazem parte de um relatório especial focado no setor público do SAS com insights de pesquisa do Relatório do impacto dos dados e da IA: O imperativo da Confiança, da IDC.

O relatório explora o chamado “dilema da confiança”, no qual as organizações acabam subutilizando uma IA confiável por falta de confiança ou dependendo excessivamente de sistemas de IA que ainda não foram devidamente validados. Esse desalinhamento, observado em todas as regiões, representa uma barreira crítica para a adoção eficaz da IA no governo. O novo relatório focado no setor público revela tendências de uso e investimento em IA ao redor do mundo e analisa como diferentes regiões estão evoluindo para reduzir a lacuna de confiança. Embora todos os setores avaliados na pesquisa enfrentem desafios relacionados a esse dilema, a missão única do setor público torna a confiança um elemento ainda mais essencial.

“Para que o setor público possa confiar na IA, ela precisa gerar valor claro ao mesmo tempo em que protege o bem-estar dos cidadãos”, afirma Grant Brooks, vice-presidente sênior de Setor Público do SAS. “Transformar esse valor em benefícios reais para cidadãos e comunidades exige o alinhamento entre ambição e preparo em IA. Os resultados do relatório indicam que ainda temos trabalho a fazer para chegar lá.”

Este relatório especial conta com análises regionais da América do Norte, Europa, América Latina, META (Oriente Médio, Turquia e África) e Ásia-Pacífico. E apresenta insights sobre o setor público de cada uma dessas regiões sobre infraestrutura de dados e de IA, níveis de maturidade e adoção de práticas de IA confiável, além de uma análise aprofundada do chamado “dilema da confiança”.

Equilibrando velocidade da IA e responsabilidade pública

Órgãos governamentais em todo o mundo estão adotando a IA rapidamente, com maior uso de IA agêntica (52%) do que outros grandes setores, como bancos, saúde e varejo. No entanto, de acordo com o relatório:

– Apenas 6% dos órgãos governamentais estão no estado “ideal”, combinando alta confiança interna em IA com sistemas comprovadamente confiáveis – o menor percentual entre todos os setores analisados na pesquisa.

– 38% das organizações governamentais apresentam simultaneamente uso insuficiente de salvaguardas de IA confiável e dependência excessiva de IA, com um número surpreendentemente alto demonstrando forte confiança em sistemas de IA que ainda não são totalmente confiáveis, como a IA generativa.

De fato, os participantes do setor público confiam muito mais na IA generativa do que no machine learning (ML). Apesar do aprendizado de máquina ser amplamente usado há anos em aplicações como auditoria tributária e detecção de fraudes, os líderes governamentais depositam mais confiança em uma tecnologia menos explicável e mais sujeita a erros.

Quando o tema é entregar IA confiável, o setor público fica atrás de segmentos como seguros, bancos e ciências da vida. Apenas 15,3% operam no mais alto nível do Índice de Confiabilidade da IA do relatório, abaixo da média global de 19,8%. Além disso, o setor público também apresenta expectativas menores de investimento futuro em iniciativas de IA confiável quando comparado a bancos e seguradoras.

“Órgãos governamentais estão avançando rapidamente da experimentação ao uso operacional da IA, mas a confiança não pode ser presumida, especialmente quando os sistemas impactam resultados públicos”, afirma Chris Marshall, vice-presidente de Dados, Analytics, IA, Sustentabilidade e Pesquisa setorial do IDC. “Sem bases de dados robustas e governança clara, a confiança na IA pode crescer mais rápido do que sua confiabilidade, aumentando os riscos para cidadãos e instituições.”

Reduzindo a lacuna de confiança em IA no setor público

Embora alguns governos estejam avançando na incorporação de práticas de IA confiável, a maioria ainda enfrenta lacunas significativas em centralização de dados, governança de IA e qualificação de talentos, fatores que limitam o alcance de todo o potencial da IA. A prontidão e as capacidades em IA do governo variam bastante entre as regiões, mas há algumas tendências em comum. Segundo o relatório:

– Todas as regiões apontam a falta de uma base de dados centralizada ou otimizada como o principal desafio para implementar IA.

– A ausência de governança de dados é frequentemente citada como o segundo maior desafio, com exceção da América Latina, onde aparece em quarto lugar.

– As organizações governamentais demonstram forte expectativa de crescimento nos investimentos em IA no próximo ano: 12,6% projetam aumentos superiores a 20%, enquanto quase metade espera um crescimento entre 4% e 20%. A eficiência e a eficácia dos processos são vistas como os principais caminhos para capturar valor com a IA. Além disso, mais de 60% citam ganhos de produtividade individual – o maior índice entre os setores analisados.

– O setor público também é o único em que os respondentes da pesquisa apontam mais lacunas de competências entre os funcionários em geral do que entre equipes técnicas especializadas. Em resposta a esses desafios, organizações governamentais estão priorizando investimentos tanto em arquitetura tecnológica quanto na qualificação da força de trabalho.

Serviço
www.sas.com