A Inteligência Artificial também passa por alucinação

A Inteligência Artificial (IA) tem sido um tema recorrente nos meios de comunicação diante de inúmeras vantagens e a revolução em si em termos de praticidade no mercado global. Mas o que muitos não imaginam é que tal novidade pode apresentar o fenômeno da “alucinação”. Esse comportamento ocorre quando os modelos de linguagem de larga escala, também conhecidos como LLM’s, fornecem informações com aparente confiança, mas que estão incorretas, foram inventadas ou não têm base em Dados reais.

Um exemplo comum é quando a IA responde com um número ou fato que parece correto, porém não tem relação direta com o que foi perguntado, ou é fabricado porque o modelo está improvisando uma resposta sem apoio em fontes confiáveis ou nos Dados de treinamento. Isso quer dizer que o problema não é só o erro, contudo o fato de que o LLM aparenta estar certo mesmo quando está inventando algo — o que pode induzir o usuário ao erro.

Um dos principais motivos é a forma como esses modelos são treinados. Essencialmente, eles aprendem a prever a próxima palavra com base em grandes volumes de texto disponíveis na Internet, sem distinção entre fatos verificados e informações incorretas ou especulativas. Como resultado, a base pode gerar respostas que parecem plausíveis, mas que são incorretas ou inventadas, especialmente em temas menos comuns ou quando não há dados suficientes no treinamento. Além disso, os LLMs não acessam bases de Dados externas em tempo real para validar suas respostas, enquanto modelos mais novos têm feito isso com bons resultados, o que aumenta o risco de fornecer informações erradas com alta confiança.

Entretanto, o que talvez muitos também não saibam é que é possível reduzir o risco de alucinações. Ao invés de utilizar LLMs para gerar respostas diretamente, modelos de linguagem especializados podem ser combinados. Esses modelos são treinados em bases de Dados adequadas a cada tipo de negócio, o que facilita a criação de respostas seguras e estruturadas para evitar informações fora de contexto ou domínio de uso.

Dependendo da necessidade, é possível ir além, usando modelos personalizados a partir de dados estruturados vindos de APIs ou interfaces internas e as próprias bases de conhecimento sobre o problema tratado, permitindo uma melhor solução ao usuário, para que possa se beneficiar da Inteligência Artificial (IA) sem enfrentar seus efeitos colaterais.

Por Byron Bezerra – professor da UPE e pesquisador da deep tech Di2win.