Temperature (paramètre d'IA)
La température est un paramètre de réglage des grands modèles de langage, qui détermine le caractère plus ou moins aléatoire ou déterministe du choix des mots. À chaque étape de la génération, le modèle calcule une distribution de probabilité sur les tokens suivants possibles ; la température modifie l'accentuation de cette distribution en faveur des options les plus probables ou son aplatissement en faveur de choix plus rares. Une valeur basse rend les sorties ciblées et reproductibles, une valeur élevée les rend plus variables et créatives. La température est ainsi l'un des leviers les plus importants pour régler les modèles de langage selon les tâches.
Également connu sous : température d'échantillonnage, paramètre de température, temperature LLM
Comment la temperature agit techniquement
Un Modèle de langage génère du texte Token de tokens. Avant chaque token existe une liste de candidats avec des valeurs brutes associées, les logits. Ces logits sont convertis en probabilités par une fonction softmax. La température intervient précisément là : elle divise les logits par sa valeur avant la conversion. Un petit diviseur écarte les distances entre candidats et laisse dominer l’option la plus probable, un grand diviseur rapproche les distances et donne une vraie chance aussi aux mots moins probables.
Concrètement, la température ne décide donc pas des mots que le modèle connaît mais de l'audace de son choix. Avec une valeur proche de zéro, le modèle choisit presque toujours le token le plus probable et se comporte pratiquement de façon déterministe. À mesure que la température monte, le choix est de plus en plus influencé par le hasard, de sorte que la même entrée peut produire des réponses différentes à plusieurs exécutions.
Il importe de noter que la température n'est pas une mesure de qualité ou de véracité. Une valeur élevée ne rend pas une réponse plus intelligente, seulement plus variée ; une valeur basse ne la rend pas plus correcte, seulement plus cohérente. Des températures très élevées peuvent faire dériver la sortie sur le fond ou la rendre décousue, le modèle empruntant trop souvent des chemins de mots rares.
Quelle valeur pour quel usage
La bonne température dépend entièrement de la tâche. S'il s'agit de sorties précises, factuelles ou structurées, par exemple extraire des données, produire du code ou répondre à des questions claires, des valeurs basses sont pertinentes, car elles apportent stabilité et reproductibilité. S'il s'agit de trouver des idées, de rédiger des textes publicitaires ou de varier, des valeurs plus élevées aident, car elles créent de la diversité.
Le tableau suivant situe qualitativement les plages de température typiques. Les chiffres cités sont des repères, non des seuils physiques fixes : différents modèles réagissent différemment, et la valeur adaptée à la pratique devrait toujours se déterminer par des essais avec de vraies entrées. Dans les Solutions IA la temperature est donc le plus souvent configurée selon le cas d’usage et non fixée globalement.
La température est souvent utilisée avec d'autres paramètres d'échantillonnage comme top-p ou top-k. Ceux-ci restreignent en plus le vivier de candidats. En pratique, il est recommandé de ne modifier sciemment qu'un paramètre à la fois, pour en juger proprement l'effet, plutôt que d'actionner plusieurs leviers en même temps.
| Valeur (env.) | comportement | Adapté à |
|---|---|---|
| 0 | Quasi déterministe, choisit presque toujours le token le plus probable | Extraction de données, classification, tests reproductibles |
| 0,3 | Focalisé, peu de variation, ton légèrement naturel | Textes factuels, résumés, réponses de support |
| 0,7 | Équilibré entre cohérence et créativité | Réponses de chat générales, brouillons, explications |
| 1,0 et plus | Nettement plus variable, choix de mots audacieux, risque croissant de digression | Brainstorming, écriture créative, variantes d'idées |
Recommandations pratiques d'utilisation
Qui règle la température dans ses propres applications devrait procéder avec méthode plutôt que deviner. Une démarche éprouvée consiste à partir d'une valeur moyenne puis à la déplacer de façon ciblée vers plus de stabilité ou plus de variété, jusqu'à ce que les sorties conviennent au cas d'usage.
Pour des tâches où des résultats identiques comptent, par exemple des pipelines automatisés ou des fonctions testées en régression, une valeur proche de zéro est le choix sûr. Même alors, une faible variation résiduelle est possible, c'est pourquoi les déroulements vraiment critiques devraient être validés en plus.
Pour les usages créatifs, il vaut la peine de produire plusieurs réponses avec une température élevée et de choisir la meilleure, plutôt que de forcer une sortie unique. On utilise ainsi la variabilité comme un avantage sans perdre le contrôle du résultat final.
- Travail factuel et code : valeurs basses pour la stabilité et la reproductibilité
- Travail créatif : produire des valeurs plus élevées et plusieurs variantes au choix
- Ne changer qu’un paramètre d’échantillonnage à la fois pour isoler les effets
- Toujours tester les valeurs avec de vraies entrées plutôt que les reprendre aveuglément
- Éviter les valeurs très élevées quand la fiabilité du contenu compte
Malentendus fréquents
Un malentendu répandu veut qu'une température plus élevée rende le modèle plus intelligent ou plus détaillé. En réalité, elle ne modifie que la dispersion du choix des mots, non le savoir ou la capacité de raisonnement du modèle. Qui a besoin de plus de profondeur devrait améliorer le prompt ou choisir un modèle plus performant, non augmenter la température.
Est tout aussi fausse l'idée qu'une valeur de zéro empêcherait les hallucinations. Des températures basses rendent les réponses plus cohérentes, mais une réponse cohérente peut être tout aussi fausse qu'une réponse variable. La fidélité aux faits naît de bons prompts, de la fourniture du contexte et d'une vérification, non du seul paramètre d'échantillonnage.
Enfin, la température optimale n'est pas universelle. Ce qui marche bien pour un modèle peut paraître trop conservateur ou trop débridé pour un autre. La température fait donc partie des paramètres que l'on recalibre par modèle et par tâche.
Questions fréquentes
Que signifie temperature pour un modèle de langage ?
La température est un paramètre qui détermine à quel point un modèle de langage s'écarte, dans le choix des mots, de l'option la plus probable. Des valeurs basses rendent la sortie ciblée et quasi déterministe, des valeurs élevées la rendent plus variable et créative. Elle modifie donc la dispersion des réponses, non le savoir sous-jacent du modèle.
Quelle valeur de temperature est la meilleure ?
Il n'existe pas de valeur universellement meilleure, le bon réglage dépendant du cas d'usage. Pour des tâches factuelles ou structurées, des valeurs basses conviennent ; pour des tâches créatives, des valeurs plus élevées. Le plus sensé est de partir d'une valeur moyenne et de l'ajuster, à partir de vraies entrées, vers plus de stabilité ou plus de variété.
Une temperature de zéro rend-elle les réponses plus correctes ?
Non. Une valeur proche de zéro rend les réponses cohérentes et reproductibles, mais pas nécessairement justes. Une réponse stable peut être tout aussi fausse qu'une réponse variable. La fidélité aux faits naît de bons prompts, d'un contexte adapté et d'une vérification, non du paramètre d'échantillonnage.
Quelle est la différence entre la temperature et le top-p ?
Les deux pilotent le hasard mais interviennent à des endroits différents. La température met à l'échelle toute la distribution de probabilité, tandis que top-p limite le vivier de candidats aux tokens les plus probables jusqu'à une probabilité cumulée. En pratique, mieux vaut ne modifier sciemment qu'un des deux paramètres.
Une temperature élevée augmente-t-elle le risque d'hallucinations ?
Indirectement oui, car des valeurs élevées font choisir plus souvent au modèle des chemins de mots rares, ce qui peut produire des sorties décousues ou digressives. Une température basse n'évite toutefois pas les hallucinations à coup sûr. Pour des contenus fiables, des valeurs modérées assorties d'une vérification du fond sont la meilleure voie.
Dois-je régler la temperature de la même façon dans chaque application ?
Non, un réglage uniforme est rarement optimal. Différentes tâches demandent différents degrés de cohérence ou de créativité, et différents modèles réagissent différemment à la même valeur. Dans les applications professionnelles, la température est donc le plus souvent configurée par cas d'usage et calibrée par des tests.
Termes associés
Le prompt engineering est l'art de formuler les instructions données à l'IA pour que les modèles de langage donnent de meilleurs résultats.
Instruction de niveau supérieur qui définit le rôle, le comportement, le ton et les règles d'un assistant IA.
Un LLM est un modèle de langage qui comprend et produit du texte en prédisant le mot suivant le plus probable.
Un modèle de langage optimisé pour le raisonnement en plusieurs étapes, qui réfléchit par étapes avant de répondre.
Une hallucination d'IA est un contenu produit par un modèle qui semble plausible mais qui est factuellement faux.
La fenêtre de contexte est le nombre maximal de tokens qu'un modèle de langage peut prendre en compte simultanément.
Mettre l'IA au service de votre entreprise ?
Nous vous aidons à intégrer l'intelligence artificielle dans vos processus, votre marketing et votre site — de manière stratégique et sûre.
Votre interlocuteur
Stefan
J'ai hâte de découvrir votre projet et de trouver ensemble la meilleure solution.
