A IA «esquece» porque não tem memória própria entre mensagens: de cada vez que responde, relê o que lhe enviaram nessa conversa, até um limite de texto (a «janela de contexto»). Quando a conversa passa esse limite, ou quando há tanta coisa que o que importa se perde pelo meio, o modelo deixa de ter presente o que disse no início. Não é distracção, é a forma como funciona.
Os três motivos mais comuns
| O que acontece |
Porquê |
O que fazer |
| Esquece o que disse no início de uma conversa muito longa |
A janela de contexto encheu e a ferramenta cortou o princípio, ou o resumiu |
Recomece uma conversa com um resumo seu das decisões e dos factos importantes. |
| Contradiz uma instrução que lhe deu |
Deu a instrução há muito, entre muito texto; ou outra instrução pesa mais |
Repita-a no pedido actual, curta e no fim. |
| Não se lembra de uma conversa de ontem |
Cada conversa é separada, a menos que a ferramenta tenha uma função de memória |
Cole o que importa, ou use a memória da ferramenta e veja o que ela guarda. |
| Responde ao lado de um documento grande |
O documento não coube inteiro, ou a parte relevante ficou no meio |
Divida-o e pergunte por partes; indique a secção que lhe interessa. |
Como trabalhar para que não se perca
| 1 |
Uma conversa por assunto. Quando muda de tema, abra outra. Arrastar o histórico confunde e gasta mais.
|
|
| 2 |
Ponha o essencial no início do pedido e repita as regras que não podem falhar no fim.
|
|
| 3 |
Peça um resumo a meio, confira-o, e use-o para começar uma conversa nova: «Estas são as decisões já tomadas: …».
|
|
| 4 |
Dê o documento e a pergunta juntos, e peça que cite a passagem em que se baseou. Se não souber citar, desconfie.
|
|
| 5 |
Use as instruções fixas da ferramenta, se tiver (um sítio onde se escrevem regras que valem para todas as conversas), em vez de as repetir sempre.
|
|
No uso por API, o histórico é enviado de novo em cada pedido e conta como texto lido, por isso uma conversa longa fica mais cara e mais lenta. Veja como se contam os tokens.
Há ainda um engano comum: achar que a IA «aprende» consigo durante a conversa. Ela adapta-se ao que está no texto da conversa, mas não fica a saber mais depois de a fechar, a menos que a ferramenta o diga expressamente e lhe dê controlo sobre o que guarda.
|
As funções de «memória» guardam dados seus. Veja o que a ferramenta lembra de si, onde se vê e como se apaga, antes de lhe falar de clientes. Veja os termos de dados.
|
|
Uma janela de contexto maior não resolve tudo: quando o texto é muito comprido, o modelo tende a dar menos atenção ao meio. Um resumo curto e bem escolhido costuma funcionar melhor do que despejar tudo.
|
|
Quer pôr um assistente a trabalhar com os seus documentos? Veja primeiro como funciona o RAG.
Ver o RAG explicado
|
PRODUTO RECOMENDADO Alojamento de sites com cPanel Domínio e SSL incluídos, cópias diárias e o painel que já conhece. desde 5.940,00 Kz/mês (plano de 3 anos, com cupão) Ver planos |
Português
English
