No início de 2024, a Air Canada teve que pagar a um cliente porque seu chatbot de IA “alucinou” e inventou uma política que não existia. O chatbot AI prometeu um desconto que não estava disponível após a reserva do bilhete. Foi um dos principais casos em que alucinações de Inteligência Artificial custaram à companhia aérea US$ 812 em danos. Mas o que exatamente são as alucinações de IA e por que elas ocorrem? Para entender esse problema, vamos nos aprofundar.
O que são alucinações de inteligência artificial?
As alucinações de Inteligência Artificial ocorrem quando o sistema de IA gera informações falsas, enganosas ou totalmente fabricadas com total confiança. É um problema desafiador no campo da IA, onde os chatbots de IA fornecem com segurança uma resposta incorreta como fatos verificados. O que torna as alucinações de IA perigosas é que elas parecem muito plausíveis e convincentes.
Observe que as alucinações de IA não são erros gramaticais ou de digitação. Os fatos apresentados parecem factuais à primeira vista e são gramaticalmente corretos. Na verdade, um estudo recente mostra que quando os modelos de IA têm alucinações, utilizam uma linguagem mais confiante do que quando fornecem informações factuais.
E as alucinações da Inteligência Artificial não se limitam apenas à produção de texto. As alucinações de IA também ocorrem em imagens e vídeos gerados por IA, onde você percebe vários dedos ou características humanas estranhas. Todos estes são exemplos de alucinações de IA em que o sistema de IA inventa factos que não existem.
Por que os AI Chatbots alucinam?
Para entender por que os chatbots de IA alucinam, devemos entender como funcionam os grandes modelos de linguagem (LLMs). Ao contrário dos humanos, os LLMs não compreendem palavras e informações e carecem de uma compreensão genuína do mundo. Eles são treinados em uma grande quantidade de texto e os LLMs identificam padrões do conjunto de dados de treinamento. Agora, usando probabilidades estatísticas, os LLMs tentam prever qual palavra deve vir a seguir em uma sequência.
Portanto, quando há dados limitados no conjunto de dados de treinamento, ou seja, quando o modelo de IA é pequeno, há uma grande chance de alucinações de IA. Basicamente, quando o modelo de IA não possui informações precisas sobre um tema específico, ele tenta adivinhar a resposta, muitas vezes dando respostas incorretas.
Além disso, os modelos de IA são treinados em uma grande quantidade de texto, proveniente da internet. Agora, se houver informações falsas na internet ou preconceitos no texto, o chatbot AI aprende a imitar essas informações sem entender o texto. Portanto, a limpeza de dados é uma forma importante de reduzir as alucinações.
OpenAI publicou recentemente um papel dizendo que os modelos de linguagem alucinam porque são treinados para prever a próxima palavra, não para distinguir a verdade da falsidade. Em segundo lugar, são recompensados por adivinharem e darem uma resposta, em vez de dizerem “não sei” quando os factos são incertos.
Portanto, durante o pós-treinamento, os modelos de IA não devem ser punidos por dizerem “não tenho certeza” ou “não sei”. Em vez disso, devem ser recompensados e isso mudará o comportamento do modelo quando estiverem incertos e reduzirá as alucinações.
Quais modelos de IA têm as taxas de alucinação mais baixas?
A Análise Artificial introduziu recentemente um novo Índice de Onisciência que mede o conhecimento e a alucinação em diferentes domínios. Neste benchmark, o Gemini 3 Pro do Google, o Claude Opus 4.5 da Anthropic e o GPT-5.1 High da OpenAI apresentaram taxas de alucinação mais baixas. Portanto, se você está procurando um modelo de IA que tenha menos alucinações, você pode tentar um desses chatbots de IA.
Consequências no mundo real das alucinações de inteligência artificial
Após o lançamento do ChatGPT no final de 2022, as alucinações de Inteligência Artificial causaram sérios danos em todo o mundo. Em 2023, um advogado usou o ChatGPT para redigir processos judiciais sem perceber que a maioria dos casos citados são falsos. ChatGPT inventou processos judiciais inexistentes com nomes realistas.
Em 2023, o chatbot inicial de IA do Google, Bard, deu uma resposta incorreta em um vídeo promocional, alegando que o Telescópio Espacial James Webb havia tirado as primeiras imagens de um planeta fora do sistema solar. Devido a este erro ou “alucinação”, o Google perdeu US$ 100 bilhões em valor de mercado de ações.
Em 2025, o Chicago Sun-Times publicou uma lista de leituras de verão usando IA, mas 10 dos 15 títulos foram considerados falsos. Posteriormente, o jornal retirou a edição online da matéria. E recentemente, a Deloitte forneceu um relatório ao governo australiano por US$ 440.000, mas descobriu-se que o relatório foi feito usando IA e contém várias citações e erros fabricados.
