Gartner lista ações para líderes de comunicação contra ameaças da GenAI

Os líderes de comunicação devem proteger proativamente a reputação de sua organização contra ameaças externas e internas de IA generativa (GenAI), de acordo com o Gartner. Existem cinco estratégias essenciais que os diretores de comunicações (CCOs) devem considerar ao mitigar os riscos associados à GenAI.

“De deepfakes facilmente disseminados espalhando desinformação a ataques de falsificação de identidade e uso indevido não intencional de funcionários, a implementação da GenAI está repleta de riscos”, disse Amber Boyes, analista diretora do Gartner for Communications Leaders Practice. “É importante que os líderes de comunicação estabeleçam proteções eficazes em sua organização, a fim de equilibrar a oportunidade sem precedentes com as ameaças significativas à reputação externa e interna que a GenAI representa”, observou.

As cinco estratégias essenciais que os CCOs devem considerar ao proteger a reputação de sua organização contra ameaças GenAI incluem:

Aprimore os recursos de monitoramento de mídia social

Uma pesquisa do Gartner com 2 mil consumidores entre abril e maio de 2024 descobriu que 80% dos consumidores concordaram que a GenAI tornou mais difícil distinguir entre o que é real online e o que não é. Com isso em mente, os CCOs devem ter visibilidade do que está em alta com o público nas mídias sociais e garantir que os fornecedores que monitoram a disseminação de conteúdo enganoso possam detectar possíveis

Ao estabelecer um protocolo human-in-the-loop, os gerentes de mídia social podem estar armados com as ferramentas necessárias para monitorar e gerenciar riscos de reputação. Um processo de triagem e um protocolo de gerenciamento de risco também devem ser adaptados para cenários específicos da GenAI, incluindo a atualização de processos de mídia social para alertar os parceiros de TI e relatar conteúdo falso e enganoso às plataformas sociais.

Fortalecer a credibilidade da mídia própria

A desinformação e a erosão da confiança continuam sendo os principais desafios no cenário atual da mídia. Portanto, é imperativo que os líderes de comunicação estabeleçam sua própria organização como fonte de informações precisas e confiáveis.

“De perfis de mídia social confiáveis para marcas e executivos à transparência externa com redações online, as comunicações eficazes devem buscar credibilidade e uso ético da GenAI”, acrescentou Amber. “Os líderes de comunicação estão na linha de frente da proteção e melhoria da reputação de uma organização.”

Determine os cenários de ataques mais prováveis

Os líderes de comunicação desempenham um papel vital na identificação e sinalização de tópicos sensíveis propensos à desinformação e com maior probabilidade de causar danos à reputação.

Depois de determinar os cenários de risco da marca, os líderes de todas as funções devem realizar exercícios de mesa para planejar ataques relacionados à GenAI, mantendo um olhar atento sobre as áreas com maior risco de reputação. Ao identificar lacunas nos processos internos de resposta, as equipes de comunicação podem incorporar considerações GenAI em planos de comunicação de crise e desenvolver contranarrativas antes que ocorra um ataque.

Esclareça o uso da GenAI para funcionários e consumidores

Os consumidores querem transparência sobre como as marcas usam a GenAI na criação de conteúdo ou comunicação, com 75% concordando que as marcas devem divulgar quando usam a GenAI para ajudar a produzir seu conteúdo. Os líderes devem garantir que o conteúdo esteja sujeito a revisão humana e verificação de fatos, e divulgações apropriadas sobre como a IA foi implementada para apoiar sua criação devem ser adicionadas.

Esclarecimentos e orientações sobre o uso da GenAI também devem ser dados aos funcionários, fornecendo casos de uso relevantes da GenAI e exemplos da vida real que demonstrem sua aplicação prática.

Capacite os funcionários por meio de oportunidades de experimentação GenAI

Ao promover uma cultura de experimentação GenAI segura para a marca, os líderes de comunicação podem aumentar a confiança de seus funcionários em relação ao uso e, por fim, incentivar a adoção. As oportunidades de experimentação devem ser focadas nos casos de uso mais úteis e de menor risco para minimizar o risco de um acidente.

“Ao estabelecer mecanismos de detecção e proteções internas neste mundo cada vez mais orientado pela IA, os CCOs podem posicionar a tecnologia como um companheiro de equipe e liberar todo o potencial da GenAI enquanto tomam medidas preventivas para minimizar o risco de danos à reputação”, disse Amber.