Pesquisa da Salesforce aponta os desafios de segurança da IA agêntica

À medida que a adoção da IA acelera e as ameaças cibernéticas aumentam, quase 8 em cada 10 líderes de segurança de TI reconhecem que suas práticas de segurança precisam de transformação. Os dados mais recentes do estudo State of IT da Salesforce revelam otimismo unânime sobre os agentes de IA, com 100% dos líderes de segurança identificando pelo menos uma preocupação de segurança que poderia ser melhorada pelos agentes.

No entanto, apesar dessa esperança, a pesquisa global com mais de 2 mil líderes de segurança de TI corporativos destaca desafios significativos de implementação à frente. Quase metade (48%) teme que sua base de dados não esteja configurada para aproveitar ao máximo a IA agêntica, e mais da metade (55%) não está totalmente confiante de que tem as proteções apropriadas para implementar agentes de IA.

Tanto os profissionais encarregados de proteger os dados e sistemas de uma empresa quanto os malfeitores que procuram explorar vulnerabilidades estão adicionando cada vez mais IA aos seus kits de ferramentas. Agentes autônomos de IA, que ajudam as equipes de segurança a reduzir o trabalho manual, podem liberar o tempo dos humanos para a resolução de problemas mais complexos. No entanto, as implementações de IA agêntica exigem infraestrutura de dados e governança robustas para serem bem-sucedidas.

“Agentes de IA confiáveis são construídos com base em dados confiáveis. As equipes de segurança de TI que priorizam a governança de dados poderão aumentar seus recursos de segurança com agentes, protegendo os dados e mantendo a conformidade”, disse Alice Steinglass, vice-presidente executiva e gerente-geral da Salesforce Platform, Integration and Automation

Pelos números da pesquisa:

Os orçamentos de segurança aumentam à medida que as ameaças evoluem

Além de uma lista familiar de riscos, como ameaças à segurança na Nuvem, malware e ataques de phishing, os líderes de TI agora citam o envenenamento de dados, no qual agentes mal-intencionados comprometem conjuntos de dados de treinamento de IA, entre suas principais preocupações. Os recursos estão aumentando em resposta: 75% das organizações esperam aumentar os orçamentos de segurança no próximo ano.

Ambientes regulatórios complexos adicionam desafios à implementação da IA

Embora quatro quintos dos líderes de segurança de TI acreditem que os agentes de IA oferecem oportunidades de conformidade, como melhorar a adesão às leis globais de privacidade, quase o mesmo número (79%) diz que também apresenta desafios de conformidade. Isso pode resultar em parte de um ambiente regulatório cada vez mais complexo e em evolução em todas as geografias e setores, e é prejudicado por processos de conformidade que permanecem em grande parte não automatizados e propensos a erros.

– Apenas 47% estão totalmente confiantes de que podem implantar agentes de IA em conformidade com regulamentos e padrões.

– 83% das organizações dizem que não automatizaram totalmente seus processos de conformidade.

A confiança é a base da IA bem-sucedida, mas a confiança é incipiente

Um estudo recente com consumidores descobriu que a confiança nas empresas está em declínio vertiginoso e três quintos (60%) concordam que os avanços na IA tornam a confiabilidade de uma empresa mais crítica. Além disso, apenas 42% dos consumidores confiam nas empresas para usar a IA de forma ética, uma diminuição em relação aos 58% em 2023. Os líderes de segurança de TI veem o trabalho a ser feito para ganhar essa confiança crítica.

– 57% não estão totalmente confiantes na precisão ou explicabilidade de seus resultados de IA.

– 60% não fornecem transparência total sobre como os dados do cliente são usados na IA.

– 59% não aperfeiçoaram suas diretrizes éticas para o uso da IA.

A governança de dados é um elemento fundamental na evolução agêntica das empresas

Quase metade dos líderes de segurança de TI não tem certeza de que tem dados de qualidade para sustentar os agentes ou se poderia implantar a tecnologia com as permissões, políticas e proteções corretas, mas o progresso está sendo feito. Uma pesquisa recente com CIOs descobriu que quatro vezes mais orçamento foi alocado para infraestrutura e gerenciamento de dados do que para IA, um sinal de que as organizações estavam estabelecendo as bases certas para uma implementação mais ampla.

Os agentes de IA oferecem um bálsamo à medida que a adoção aumenta

De acordo com a pesquisa State of IT, mais de 40% das equipes de segurança de TI já usam agentes em suas operações diárias – um número que deve quase dobrar nos próximos dois anos. Os líderes de segurança de TI esperam uma série de benefícios à medida que o uso de agentes aumenta, desde a detecção de ameaças até a auditoria sofisticada do desempenho do modelo de IA. Três quartos (75%) esperam usar agentes de IA dentro de dois anos – acima dos 41% atuais.