Wie KI-Modelle Sie verstehen: Tokens, Kontext und Halluzinationen
Die technische Ebene in einfacher Sprache – Token, Kontextfenster, Temperatur und Halluzination –, damit Sie auf Englisch präzise über KI sprechen können.
Wenn Sie schon einen klaren Prompt schreiben können, besteht die nächste Stufe darin zu verstehen, was im Inneren des Modells geschieht: nicht die Mathematik, sondern die Konzepte und das Englisch, das sie beschreibt. Das sind die Begriffe, die in jedem ernsthaften Gespräch über KI fallen, und wer sie präzise verwendet, unterscheidet sich von jemandem, der nur eine Schlagzeile gelesen hat, und zeigt, dass er oder sie über das Werkzeug nachgedacht hat. Im Deutschen sagt man „Kontextfenster“, „Temperatur“ und „Halluzination“, bei „Token“ meist das englische Wort; in Dokumentationen und Vorstellungsgesprächen sind die englischen Begriffe die üblichen, deshalb sollten Sie sie kennen.
Tokens
Das Modell liest keine Wörter. Es liest Tokens: Textfragmente, ungefähr ein Wort oder ein Wortteil. unhappy kann ein einziges Token sein, unbelievable zwei.
- The model splits the text into tokens.
- This model has a large token limit.
Eine nützliche Folge ist das token limit, die Höchstmenge, die das Modell auf einmal aufnehmen oder ausgeben kann. Wenn ein Prompt „zu lang“ ist, fehlen dem Modell eben die Tokens.
Das Kontextfenster
Das context window ist das, was das Modell gleichzeitig im Kopf behalten kann, sein Kurzzeitgedächtnis, gemessen in Tokens. Es enthält Ihre gesamte Unterhaltung plus den Prompt.
- The whole document fits inside the context window.
- Once the conversation exceeds the context window, the model forgets the beginning.
Deshalb verlieren lange Unterhaltungen mit einem Chatbot manchmal den Faden: Der Anfang ist aus dem Fenster gerutscht. In präzisem Englisch sagt man, das Modell runs out of context, und nicht, es habe etwas vergessen – „vergessen“ setzt ein Gedächtnis voraus, das das Modell zwischen den Sitzungen nicht hat.
Die Temperatur
Die temperature steuert, wie vorhersehbar die Antwort ist. Die Idee stammt aus der Physik: Je höher die Temperatur, desto mehr Bewegung.
Niedrige Temperatur – vorhersehbar, sicher, wörtlich. Gut für Daten und Code.
Hohe Temperatur – abwechslungsreich, unerwartet, kreativ. Gut für Ideen und Entwürfe.
Set the temperature low for a technical answer.
The model's temperature was high, so it gave three very different drafts.
Das Wort ist so gebräuchlich geworden, dass man the response felt high-temperature sagt, also unvorhersehbar, ohne weitere Erklärung.
Die Halluzination
Eine hallucination ist eine Antwort, die sicher klingt und schlicht falsch ist. Das Modell hat eine Angabe, einen Namen, eine Quelle erfunden und als unzweifelhaft dargestellt.
- The model hallucinated a citation.
- That reference is a hallucination — it doesn't exist.
Das ist ein Begriff, den jeder braucht, der KI aufmerksam einsetzt, denn er benennt die größte Schwäche des Werkzeugs. Das Verb ist regelmäßig: hallucinate, hallucinated, has hallucinated. Und das Nomen ist zählbar: a hallucination, two hallucinations.
Eine Halluzination ist keine Lüge. Lügen setzt voraus, die Wahrheit zu kennen und gegen sie zu handeln. Das Modell weiß nicht, was wahr ist; es sagt voraus, welcher Text als Nächstes kommt. Eine falsche Schlussfolgerung hallucination zu nennen, ist so präzise, wie lie und mistake ungenau sind – das Modell hat nie etwas mit der Wirklichkeit abgeglichen.
Der Rest des Sets
Sie ergänzen den Kern, und Sie finden sie neben dem präzisen Fachwortschatz:
| Begriff | Bedeutung |
|---|---|
| training data | die Texte, mit denen das Modell gelernt hat |
| parameters | die Zahlen, die das Modell gelernt hat; die „Größe“ im technischen Sinn |
| inference | der Moment, in dem das Modell eine Antwort erzeugt |
| prompt injection | ein im Prompt versteckter Angriff, der das Modell dazu bringt, seine Anweisungen zu ignorieren |
| fine-tuning | das Modell für eine bestimmte Aufgabe nachjustieren |
Präzise darüber sprechen
Beachten Sie das Muster: Jeder Begriff hat sein eigenes Verb, und die Verbindung ist so fest, wie Wortverbindungen es immer sind.
- The model splits text into tokens.
- The answer exceeded the context window.
- I lowered the temperature.
- The model hallucinated a source.
Das richtige Verb zeigt, dass Sie den Mechanismus verstehen, nicht nur die Wörter.
Testen Sie, was Sie gerade gelesen haben
Der folgende Test geht die Begriffe durch und die Verben, mit denen sie sich verbinden.