Salt Security alerta para a crise de segurança por conta dos agentes de IA

A Salt Security, empresa global de proteção de APIs, divulgou as descobertas de seu relatório  Securing the Future of Agentic AI: Building Consumer Trust through Robust API Security  (Protegendo o futuro da IA agêntica: construindo a confiança do consumidor por meio da segurança robusta da API), destacando um alerta crítico: sem a descoberta, governança e segurança adequadas da Interface de Programação de Aplicativos (API), a própria tecnologia destinada a impulsionar um envolvimento mais inteligente do cliente pode abrir as portas para ataques cibernéticos ou dados vazamento. A pesquisa também revela uma crescente lacuna de confiança entre as empresas que implementaram a IA agêntica para comunicações externas e os consumidores cautelosos em compartilhar informações pessoais devido a preocupações com a segurança.

Como as APIs alimentam os agentes de IA, com a capacidade de fazer solicitações, recuperar dados e interagir em diferentes plataformas, o fio condutor para melhorar a confiança nas interações de IA agenciais é a segurança da API. O relatório propõe que, uma vez que a segurança seja fortalecida, a confiança do consumidor seguirá e permitirá que a IA agêntica atinja todo o seu potencial de negócios.

O relatório exclusivo investigou os dois lados da equação da IA agêntica – as organizações que já a usam e os consumidores que a estão usando.

Principais destaques das empresas que usam IA agêntica

– Mais da metade (53%) das organizações que usam IA agêntica dizem que já a estão implementando ou planejam fazê-lo, para funções voltadas para o cliente.

– Quase metade (48%) das organizações atualmente usa entre 6 e 20 tipos de agentes de IA e 19% implementam entre 21 e 50; 37% das organizações relatam que de 1 a 100 agentes de IA estão atualmente ativos em seus sistemas; e quase um quinto (18%) hospeda entre 501 e 1 mil agentes.

– Apenas 32% realizam avaliações diárias de risco de API.

– 37% têm uma solução de segurança de API dedicada.

– Apenas 37% têm uma equipe de privacidade de dados supervisionando iniciativas de IA.

– 7% avaliam o risco do IFA mensalmente ou menos

Principais destaques dos consumidores

– 64% dos consumidores interagiram com chatbots de IA com mais frequência no ano passado.

– 80% desses consumidores compartilharam informações pessoais durante essas interações.

– 44% dizem que se sentiram pressionados a compartilhar informações apenas para concluir uma tarefa.

– Apenas 22% dos consumidores se sentem à vontade para compartilhar dados com agentes de IA, em comparação com 37% que confiam nas interações por telefone e 54% pessoalmente.

– 62% acreditam que os agentes de IA são mais fáceis de enganar do que os humanos.

– O uso de agentes de IA está explodindo, mas os consumidores não estão convencidos.

O relatório revelou que mais da metade das organizações que já usam IA agencial dizem que a implementam ou planejam implantá-la para tarefas voltadas para o cliente. Enquanto isso, 64% dos consumidores relatam encontrar chatbots de IA com mais frequência do que há um ano, e quatro em cada cinco que interagem com eles compartilharam detalhes pessoais no processo.

No entanto, a confiança continua sendo um obstáculo significativo. Apenas 22% dos consumidores se sentem à vontade para compartilhar dados com chatbots, em comparação com 54% pessoalmente e 37% por telefone. De forma alarmante, 44% dizem que se sentiram pressionados a fornecer informações aos agentes de IA apenas para concluir uma tarefa. O desconforto é agravado por percepções de vulnerabilidade, com 62% acreditando que os agentes de IA são mais facilmente enganados por hackers do que os humanos.

“A IA agêntica está mudando a maneira como as empresas operam, mas os consumidores estão sinalizando claramente falta de confiança”, disse Michael Callahan, CMO da Salt Security. “O que muitas organizações ignoram é que a segurança e o sucesso da IA dependem de APIs que a alimentam e devem ser efetivamente descobertas, governadas e protegidas. Caso contrário, a lacuna de confiança aumentará e os riscos aumentarão”, afirmou.

As APIs formam a base digital para agentes de IA, permitindo que eles recuperem dados, acionem ações e interajam entre plataformas. No entanto, cada conexão adiciona uma superfície de ataque potencial. À medida que os agentes de IA automatizam mais tarefas e lidam com informações confidenciais, os pontos fracos na autenticação de API, validação de entrada e controle de acesso tornam-se vulnerabilidades de alto risco.

O déficit de segurança: o risco da API é subestimado

Apesar do risco crescente, as práticas de segurança permanecem desiguais. Apenas 32% das organizações realizam avaliações diárias de risco de API, enquanto 7% relatam fazê-lo mensalmente ou menos. Enquanto isso, apenas 37% dizem que usam soluções de segurança de API dedicadas, e a mesma proporção tem uma equipe dedicada à privacidade de dados supervisionando as iniciativas de IA.

O relatório descreve as principais práticas recomendadas, incluindo:

– Monitoramento contínuo de APIs e detecção de anomalias usando ferramentas de IA.

– Estruturas de autenticação fortes e acesso com privilégios mínimos.

– Criptografia para dados em trânsito e em repouso.

– Testes regulares de segurança e treinamento de desenvolvedores.

“À medida que os agentes de IA se tornam mais autônomos e incorporados às operações de negócios, proteger as APIs que os alimentam deve ser uma prioridade urgente, pois esse é um problema que continuará se agravando até que esteja fora de controle”, concluiu Michael Callahan. “A proteção da infraestrutura de API precisa acontecer agora para reduzir o risco, melhorar a confiança, reforçar a inovação e aumentar a resiliência cibernética geral”, finalizou.