Como os modelos de IA entendem você: tokens, contexto e alucinações
A camada técnica em linguagem simples — tokens, janela de contexto, temperatura e alucinação —, para que você possa falar de IA com precisão.
Quando você já sabe escrever um prompt claro, o próximo nível é entender o que acontece dentro do modelo: não a matemática, mas os conceitos e o inglês que os descreve. São os termos que aparecem em qualquer conversa séria sobre IA, e usá-los com precisão distingue quem leu uma manchete de quem pensou sobre a ferramenta.
Tokens
O modelo não lê palavras. Ele lê tokens — fragmentos de texto, aproximadamente uma palavra ou parte de uma palavra. unhappy pode ser um único token; unbelievable, dois.
- The model splits the text into tokens.
- This model has a large token limit.
Uma consequência útil é o token limit, o máximo que o modelo consegue receber ou produzir de uma vez. Quando um prompt é "longo demais", o que acabou são exatamente os tokens.
Janela de contexto
A context window é quanto o modelo consegue ter em mente de uma vez, sua memória de curto prazo, medida em tokens. Dentro dela está toda a sua conversa mais o prompt.
- The whole document fits inside the context window.
- Once the conversation exceeds the context window, the model forgets the beginning.
Por isso conversas longas com um chatbot às vezes perdem o fio: o início saiu da janela. Num inglês preciso, diz-se que o modelo runs out of context, e não que ele esqueceu — "esqueceu" implica uma memória que o modelo não tem entre sessões.
Temperatura
A temperature controla a previsibilidade da resposta. A ideia vem da física — quanto mais temperatura, mais movimento.
Temperatura baixa — previsível, segura, literal. Boa para dados e código.
Temperatura alta — variada, inesperada, criativa. Boa para ideias e rascunhos.
Set the temperature low for a technical answer.
The model's temperature was high, so it gave three very different drafts.
A palavra já é tão padrão que se diz the response felt high-temperature — ou seja, imprevisível — sem mais explicação.
Alucinação
Uma hallucination é uma resposta que soa segura e simplesmente é falsa. O modelo inventou um dado, um nome, uma fonte, e o apresentou como indubitável.
- The model hallucinated a citation.
- That reference is a hallucination — it doesn't exist.
É um termo de que todo usuário cuidadoso de IA precisa, porque nomeia a falha principal da ferramenta. O verbo é regular: hallucinate, hallucinated, has hallucinated. E o substantivo é contável: a hallucination, two hallucinations.
Uma alucinação não é uma mentira. Mentir exige conhecer a verdade e ir contra ela. O modelo não sabe o que é verdadeiro; ele prevê qual texto virá a seguir. Chamar de hallucination uma conclusão falsa é tão preciso quanto lie e mistake são imprecisos — o modelo nunca comparou nada com a realidade.
O resto do conjunto
Completam o núcleo, e você os encontrará junto ao vocabulário técnico preciso:
| Termo | Significado |
|---|---|
| training data | os textos com os quais o modelo aprendeu |
| parameters | os números que o modelo aprendeu; o "tamanho" em termos técnicos |
| inference | o momento em que o modelo produz uma resposta |
| prompt injection | um ataque escondido dentro do prompt que faz o modelo ignorar suas instruções |
| fine-tuning | ajustar o modelo para uma tarefa concreta |
Falar disso com precisão
Observe o padrão: cada termo tem seu próprio verbo, e a combinação é tão fixa quanto sempre são as colocações.
- The model splits text into tokens.
- The answer exceeded the context window.
- I lowered the temperature.
- The model hallucinated a source.
O verbo correto demonstra que você entende o mecanismo, não só as palavras.
Coloque à prova o que acabou de ler
O teste abaixo revisa os termos e os verbos com os quais eles se combinam.