Alucinações de IA: como verificar uma resposta antes de a usar

Uma alucinação é quando a IA diz com toda a confiança uma coisa que é falsa: um facto inventado, uma citação que não existe, um comando com uma opção que não existe, uma ligação que não abre. Acontece porque o modelo gera o texto mais provável, e não consulta uma fonte de verdade. Não há maneira de garantir que não acontece, por isso a regra é verificar o que importa antes de agir.

Onde o risco é maior

Tipo de resposta Porque falha Como verificar
Números, datas, preços, prazos O modelo não os tem, adivinha algo plausível Confirme na página oficial ou no documento de origem
Nomes, citações e referências Inventa autores, estudos e leis com ar credível Procure a fonte você mesmo. Se não a encontra, trate-a como inexistente.
Ligações e endereços Escreve endereços que parecem certos Abra-os antes de os publicar
Comandos e código Mistura versões e inventa opções Consulte o manual e ensaie fora de produção. Veja comandos Linux com IA.
Assuntos legais, médicos e fiscais Varia com o país e muda com o tempo Confirme com um profissional ou com a fonte oficial
Acontecimentos recentes O modelo pode não os conhecer Use uma fonte actual

Como verificar, por ordem

1 Peça a fonte, e abra-a. Se a fonte não existe ou não diz o que o modelo disse, a resposta não vale.
2 Dê-lhe o texto, em vez de o deixar adivinhar. Cole o documento e peça que responda só com base nele, e que diga «não consta» quando não constar. Veja RAG.
3 Pergunte de outra maneira, ou noutro modelo. Se as respostas divergem, desconfie de ambas.
4 Peça-lhe que explique o raciocínio e procure o passo frágil.
5 Teste o que é testável. Um comando num servidor de ensaio, uma fórmula com números que conhece, um código com um caso simples.
6 Deixe uma pessoa ler o que vai para um cliente, para o site ou para um contrato.
A confiança do tom não é prova. A IA escreve igualmente seguro quando acerta e quando inventa. Pedir-lhe «tens a certeza?» não resolve: ela costuma responder que sim, ou mudar de resposta sem razão.
Quando há dinheiro, saúde, lei ou segurança em jogo, a IA serve de rascunho e nunca de decisão. Quem assina é você.
Use a IA para o que é fácil de verificar: reescrever, resumir um texto que você lhe deu, pôr ideias em ordem. Desconfie quando lhe pedir factos que não lhe deu.

Quer pôr um assistente de IA no seu site sem arriscar respostas erradas aos clientes? Fale connosco sobre o servidor e o desenho.

Abrir um pedido de suporte

VEJA TAMBÉM

ChatGPT, Claude ou Gemini: qual serve para cada tarefa

Como usar IA no telemóvel, e o que nunca escrever nela

IA que responde a partir dos seus documentos: RAG

O que faz a IA da Interweb, e o que não faz

PRODUTO RECOMENDADO

Alojamento de sites com cPanel

Domínio e SSL incluídos, cópias diárias e o painel que já conhece. desde 5.940,00 Kz/mês (plano de 3 anos, com cupão)

Ver planos
  • 0 Utilizadores acharam útil
Esta resposta foi útil?