Temperature (KI-Parameter)

Ein Sprachmodell erzeugt Text Token für Token. Vor jedem Token liegt eine Liste von Kandidaten mit zugehörigen Rohwerten, den sogenannten Logits, vor. Diese Logits werden durch eine Softmax-Funktion in Wahrscheinlichkeiten umgerechnet. Die Temperature greift genau hier ein: Sie teilt die Logits vor der Umrechnung durch ihren Wert. Ein kleiner Teiler spreizt die Abstände zwischen den Kandidaten und lässt die wahrscheinlichste Option dominieren, ein großer Teiler gleicht die Abstände an und gibt auch unwahrscheinlicheren Wörtern eine reale Chance.

Anschaulich entscheidet die Temperature also nicht, welche Wörter das Modell überhaupt kennt, sondern wie mutig es bei der Auswahl vorgeht. Bei einem Wert nahe null wählt das Modell nahezu immer das Token mit der höchsten Wahrscheinlichkeit und verhält sich praktisch deterministisch. Mit steigender Temperature wird die Auswahl zunehmend vom Zufall mitbestimmt, sodass dieselbe Eingabe bei mehrfacher Ausführung unterschiedliche Antworten erzeugen kann.

Wichtig ist, dass die Temperature kein Maß für Qualität oder Wahrheitsgehalt ist. Ein hoher Wert macht eine Antwort nicht klüger, sondern nur abwechslungsreicher; ein niedriger Wert macht sie nicht korrekter, sondern nur konsistenter. Sehr hohe Temperaturen können dazu führen, dass die Ausgabe inhaltlich abdriftet oder unzusammenhängend wirkt, weil das Modell zu oft seltene Wortpfade einschlägt.

Die richtige Temperature hängt vollständig von der Aufgabe ab. Geht es um präzise, faktenorientierte oder strukturierte Ausgaben – etwa das Extrahieren von Daten, das Erzeugen von Code oder das Beantworten klarer Fragen – sind niedrige Werte sinnvoll, weil sie Stabilität und Wiederholbarkeit liefern. Geht es um Ideenfindung, Werbetexte oder Variantenreichtum, sind höhere Werte hilfreich, weil sie Vielfalt erzeugen.

Die folgende Tabelle ordnet typische Temperature-Bereiche qualitativ ein. Die genannten Zahlen sind Orientierungspunkte, keine festen physikalischen Schwellen: Verschiedene Modelle reagieren unterschiedlich, und der praxisgerechte Wert sollte immer durch Ausprobieren mit echten Eingaben bestimmt werden. In professionellen KI-Lösungen wird die Temperature deshalb meist je nach Anwendungsfall konfiguriert und nicht pauschal gesetzt.

Häufig wird die Temperature gemeinsam mit weiteren Sampling-Parametern wie Top-p oder Top-k genutzt. Diese begrenzen den Kandidatenpool zusätzlich. In der Praxis empfiehlt es sich, jeweils nur einen Parameter bewusst zu verändern, um die Wirkung sauber beurteilen zu können, statt mehrere Hebel gleichzeitig zu verstellen.

Wer die Temperature in eigenen Anwendungen einstellt, sollte methodisch vorgehen, statt zu raten. Ein bewährtes Vorgehen besteht darin, mit einem mittleren Wert zu starten und ihn dann gezielt in Richtung mehr Stabilität oder mehr Vielfalt zu verschieben, bis die Ausgaben zum Anwendungsfall passen.

Für Aufgaben, bei denen es auf identische Ergebnisse ankommt – etwa automatisierte Pipelines oder regressionsgetestete Funktionen – ist ein Wert nahe null die sichere Wahl. Selbst dann kann es geringe Restvariation geben, weshalb wirklich kritische Abläufe zusätzlich validiert werden sollten.

Bei kreativen Anwendungen lohnt es sich, mehrere Antworten mit erhöhter Temperature zu erzeugen und die beste auszuwählen, statt eine einzelne Ausgabe zu erzwingen. So nutzt man die Variabilität als Vorteil, ohne die Kontrolle über das Endergebnis zu verlieren.

Ein verbreitetes Missverständnis ist, dass eine höhere Temperature das Modell intelligenter oder ausführlicher mache. Tatsächlich verändert sie nur die Streuung der Wortwahl, nicht das Wissen oder die Argumentationsfähigkeit des Modells. Wer mehr Tiefe braucht, sollte den Prompt verbessern oder ein leistungsfähigeres Modell wählen, nicht die Temperature erhöhen.

Ebenso falsch ist die Annahme, dass ein Wert von null Halluzinationen verhindere. Niedrige Temperaturen machen Antworten konsistenter, aber eine konsistente Antwort kann genauso falsch sein wie eine variable. Faktentreue entsteht durch gute Prompts, Kontextbereitstellung und Verifikation, nicht durch den Sampling-Parameter allein.

Schließlich ist die optimale Temperature nicht universell. Was für ein Modell gut funktioniert, kann bei einem anderen zu konservativ oder zu wild wirken. Deshalb gehört die Temperature zu den Parametern, die man pro Modell und pro Aufgabe neu kalibriert.