IA mal configurada pode paralisar infraestruturas críticas nacionais, alerta Gartner

Até 2028, a IA mal configurada em sistemas ciberfísicos (CPS) irá paralisar infraestruturas críticas nacionais em países do G20, alerta um estudo do Gartner, empresa global de análises de negócios e tecnologia. O Gartner define CPS como sistemas que orquestram sensoriamento, computação, controle, redes e análises para interagir com o mundo físico (incluindo humanos). CPS é o termo abrangente que engloba tecnologia operacional (TO), sistemas de controle industrial (SCI), sistemas de automação e controle industrial (SACI), Internet Industrial das Coisas (IIoT), robôs, drones ou Indústria 4.0.

“A próxima grande falha de infraestrutura pode não ser causada por hackers ou desastres naturais, mas sim por um engenheiro bem-intencionado, um script de atualização com defeito ou uma vírgula decimal mal posicionada”, disse Wam Voster, vice-presidente de Análise do Gartner. “Um ‘botão de desligamento’ seguro ou um modo de sobreposição acessível apenas a operadores autorizados é essencial para proteger a infraestrutura nacional contra desligamentos não intencionais causados ​​por uma configuração incorreta de IA”, completou.

Uma IA mal configurada pode desligar autonomamente serviços vitais, interpretar erroneamente dados de sensores ou desencadear ações inseguras. Isso pode resultar em danos físicos ou interrupções de serviço em larga escala, representando ameaças diretas à segurança pública e à estabilidade econômica, ao comprometer o controle de sistemas essenciais, como redes elétricas ou fábricas.

Por exemplo, as redes elétricas modernas dependem de IA para o equilíbrio em tempo real entre geração e consumo. Um modelo preditivo mal configurado poderia interpretar erroneamente a demanda como instabilidade, desencadeando isolamento desnecessário da rede ou cortes de energia em regiões inteiras ou até mesmo em países.

“Os modelos modernos de IA são tão complexos que muitas vezes se assemelham a ‘caixas-pretas’”, disse Voster. “Nem mesmo os desenvolvedores conseguem prever como pequenas alterações de configuração afetarão o comportamento emergente do modelo. Quanto mais opacos esses sistemas se tornam, maior o risco representado por uma configuração incorreta. Portanto, é ainda mais importante que os humanos possam intervir quando necessário”, observou.

Para mitigar os riscos, a Gartner recomenda que os diretores de segurança da informação (CISOs) devem:

Implementar modos de sobreposição seguros: para todos os sistemas ciberfísicos de infraestrutura crítica, incluir um “interruptor de desligamento” seguro ou outros mecanismos de sobreposição acessíveis apenas a operadores autorizados, para que os humanos mantenham o controle final mesmo durante a autonomia total.

Gêmeos Digitais: desenvolva um gêmeo digital em escala real dos sistemas que suportam a infraestrutura crítica para testes realistas de atualizações e alterações de configuração antes da implementação.

Monitoramento em tempo real: exigir monitoramento em tempo real com mecanismos de reversão para alterações feitas na IA em sistemas ciberfísicos, garantindo também a criação de equipes nacionais de resposta a incidentes de IA.

Serviço
www.gartner.com