Fujitsu é escolhida para desenvolver sistema que identifica fake news

A Fujitsu anunciou que foi selecionada pela Organização de Desenvolvimento de Novas Energias e Tecnologia Industrial do Japão (NEDO), por meio do pedido público de propostas para desenvolver tecnologias para analisar a desinformação (fake news). O escopo dessa missão é iniciar pesquisas e avaliações para detectar e avaliar a desinformação, bem como criar um sistema para esse fim. Este projeto faz parte do Programa de Colaboração entre Comunidades Básicas (Programa K), que foi estabelecido através da colaboração do Gabinete do Japão, do Ministério da Economia, Comércio e Indústria e de outros ministérios relacionados, para fortalecer e impulsionar a segurança econômica. O orçamento relacionado para este projeto será de 6 bilhões de ienes e está programado para ser executado de 2024 a 2027.

Recentemente, a distribuição de fake news por meio de IA generativa e conteúdo sintético na Internet se tornou uma questão social. Até agora, há estudos individuais sobre tecnologias que detectam desinformação intencional usando Deep Fakes na forma de frases escritas, imagens, áudio e vídeo, a fim de evitar sua disseminação. A Fujitsu foi contratada com este projeto e iniciará a pesquisa e o desenvolvimento de um sistema abrangente para tomar medidas contra a desinformação que detecta e avalia o engano de várias fontes e fornece uma análise abrangente da desinformação.

Visão geral

Para determinar a autenticidade das informações, o sistema de contra-desinformação deste projeto analisará o conteúdo e determinará se as frases escritas, imagens, áudio e vídeo são ou não criados por IA generativa. Além disso, o gráfico de endosso do sistema, que conecta as relações entre várias evidências, apoiará na determinação da autenticidade das informações, analisando as consistências e inconsistências entre elas. Também avaliará o impacto social da desinformação. Neste projeto, a Fujitsu definirá os requisitos para cada caso de uso do sistema para demanda pública e privada. Ao combinar os quatro recursos a seguir, a Fujitsu criará um sistema de contradesinformação.

Característica 1: análise de informações por tipo de mídia e detecção de desinformação.
Desenvolver uma tecnologia para decompor e extrair frases, imagens, vídeos e mídias de áudio incluídas em postagens de mídia social pelo tipo de mídia, analisar o conteúdo e usar os resultados como evidência, bem como determinar se são fakes criados por IA generativa.

Recurso 2: gestão de evidências e endosso. Criar um sistema para gerenciar um gráfico a partir de várias evidências de informações da Internet extraídas através do recurso 1.

Recurso 3: suporte para determinação abrangente de autenticidade. Desenvolver uma tecnologia que analise a consistência e as inconsistências das evidências vinculadas a informações de grandes modelos de linguagem (LLM) e suporte para identificar se as informações são verdadeiras ou falsas.

Característica 4: avaliação do impacto da desinformação. Implementar uma tecnologia para analisar as características da desinformação e avaliar a escala que ela difundiu.

Planos futuros

Com essas tecnologias, a Fujitsu continuará a desenvolver uma infraestrutura social de combate à desinformação para manter atividades econômicas estáveis e autônomas, apesar da crescente preocupação com a desinformação. O objetivo é apoiar uma sociedade em que todos possam usar a Internet com segurança. Através do NEDO, os resultados deste projeto levarão à criação de novas indústrias e ao fortalecimento da competitividade internacional. A Fujitsu oferece aos seus clientes e à sociedade um valor que contribui para o desenvolvimento de uma sociedade digital, que é uma de suas materialidades para criar uma sociedade digital confiável que equilibre prosperidade e estabilidade globais.