Température, Top-p et Top-k : Guide Complet pour Régler les Paramètres des LLM

Qu’est-ce que la température d’un LLM ? Définition et fonctionnement

La température est un hyperparamètre qui contrôle le degré de hasard dans les réponses d’un modèle de langage. Sur une échelle de 0.0 à 2.0, une valeur de 0.7 est le réglage par défaut recommandé. À 0.2, le modèle reste prévisible et cohérent, tandis qu’à 1.0, il utilise la distribution de probabilité standard, produisant des sorties plus variées.

Concrètement, la fonction softmax divise les logits par la température avant de calculer les probabilités. Une température de 0.0 rend le modèle déterministe : il choisit toujours le token le plus probable. À l’inverse, avec 1.2 ou 1.5, les tokens rares gagnent en probabilité, ce qui peut générer des textes créatifs, voire surréalistes. Pour des tâches factuelles comme l’extraction de données structurées, visez 0.0 à 0.3 ; pour des chatbots créatifs, préférez une fourchette de 0.5 à 0.8.

Top-p (Nucleus sampling) : définition et fonctionnement

Le Top-p, aussi appelé nucleus sampling, fonctionne sur un principe différent : il sélectionne uniquement les tokens dont la probabilité cumulée atteint un seuil donné. Par exemple, avec un top-p de 0.9, le modèle ne considère que les candidats couvrant 90% de la probabilité totale, en ignorant les tokens les plus improbables.

Contrairement au top-k, cette approche est adaptative : le nombre de tokens retenus varie à chaque étape selon la forme de la distribution. Un top-p de 0.8 coupe efficacement les tokens de mauvaise qualité, tandis qu’une valeur de 1.0 n’applique aucun filtrage. Cette méthode, introduite dans le papier de Holtzman et al. (ICLR 2020), offre un contrôle fin sans réglage manuel du nombre de candidats.

Pour l’utiliser, privilégiez l’ajustement d’un seul paramètre à la fois : le top-p remplace avantageusement le top-k en s’adaptant automatiquement au contexte, évitant ainsi les sorties trop prévisibles comme trop chaotiques.

Top-k : définition et fonctionnement

Le top-k est un hyperparamètre qui restreint la sélection aux K tokens les plus probables à chaque étape de génération. Avec un top-k de 1, le modèle choisit systématiquement le token le plus probable : c’est le décodage glouton, parfaitement déterministe. Un top-k de 40, valeur couramment utilisée, conserve les 40 meilleurs candidats à chaque étape afin d’offrir un équilibre raisonnable entre cohérence et variété.

Contrairement au top-p, ce filtre est fixe et non adaptatif : il ignore la forme réelle de la distribution de probabilité. Si un contexte rend trois tokens très probables et tous les autres quasi impossibles, un top-k de 40 continuera de considérer des candidats de mauvaise qualité. Le top-k reste néanmoins un excellent point de départ pour limiter drastiquement le hasard, notamment dans les tâches où la précision prime sur la créativité, à l’image des méthodes d’affinage qui ajustent finement le comportement.

Valeurs recommandées et presets par cas d’usage

Il n’existe pas de réglage universel : la valeur idéale dépend de ce que vous attendez du modèle. Pour une tâche factuelle, une température élevée produira des hallucinations ; pour un texte créatif, une température trop basse donnera un résultat plat et répétitif, comme le rappellent les, à l’image des techniques utilisées pour optimiser le lead scoring métriques de performance des LLM. Voici les repères qui fonctionnent dans la majorité des situations.

Méthode de réglage progressive

Ces réglages influencent aussi la façon dont le modèle perçoit et restitue les informations contextuelles, ce qui peut avoir un impact sur la visibilité géographique d’une entreprise dans les réponses générées.

De la même manière, un CV compatible ATS doit être calibré pour répondre aux attentes précises des systèmes de suivi des candidatures, tout comme ces paramètres doivent être ajustés selon l’usage.

Ces réglages s’inscrivent dans une démarche plus large de validation des modèles, qui suit des étapes de mise en conformité avec les exigences de qualité et de sécurité.

Pour trouver le bon réglage sans tâtonner, commencez toujours par une température de 0.7 et un top-p de 0.9, puis ajustez par petits pas. Si la sortie est trop sauvage ou incohérente, descendez la température vers la plage de 0.3 à 0.5. Si elle semble ennuyeuse ou prévisible, montez vers 0.9 à 1.0 pour obtenir une sortie moins ennuyeuse sans perdre le fil.

La logique est simple : une température basse (0 à 0.3) rend les réponses prévisibles, parfaites pour des tâches où l’exactitude prime. À 0.5, le texte généré reste prévisible mais légèrement plus varié. Pour un chatbot créatif pertinent, visez la plage 0.5 à 0.8. Au-delà de 1.2, le modèle explore des combinaisons surréalistes ; à 2.0, la valeur maximale typique, la sortie devient chaotique. Retenez que ces valeurs sont relatives à l’échelle de chaque API les effets concrets varient entre modèles. L’ajustement du top-p permet quant à lui de filtrer les tokens de mauvaise qualité : un seuil de 0.8 coupe efficacement les mots improbables, tandis qu’un top-p de 1.0 applique aucun filtrage, laissant la température seule gouverner le hasard.

Pénalités de fréquence et de présence

Au-delà de la température et du top-p, deux paramètres adjacents affinent la qualité rédactionnelle d’un LLM : les pénalités de fréquence et de présence. Leur objectif commun est de réduire la répétition de tokens en sortie, un défaut fréquent sur les textes longs.

Pénalité de fréquence

La pénalité de fréquence s’applique proportionnellement au nombre d’occurrences d’un token dans la réponse générée. Concrètement, plus un terme est utilisé, plus sa probabilité d’être re-sélectionné diminue. Prenons un exemple illustratif : si un mot apparaît 10 fois, sa pénalité sera bien plus forte que s’il n’apparaît qu’une seule fois. Cela pousse le modèle à varier son vocabulaire et à éviter les boucles stylistiques.

Dans la pratique, une valeur comprise entre 0.3 et 0.9 est courante pour des tâches de rédaction longue. À l’inverse, pour de la génération de code ou de l’extraction de données structurées, une pénalité nulle (0.0) est recommandée afin de ne pas altérer la syntaxe exacte des instructions.

Pénalité de présence

La pénalité de présence fonctionne différemment : elle réduit le logit d’un token dès lors qu’il est apparu, quelle que soit sa fréquence. Une seule occurrence suffit pour déclencher la pénalité. Ce réglage est idéal pour empêcher un modèle de radoter sur un sujet précis, sans pour autant le forcer à changer de vocabulaire massivement.

En pratique, ces deux contrôles sont souvent combinés avec la température pour affiner un style. Par exemple, une température de 0.7 couplée à une pénalité de présence de 0.6 offre un bon équilibre pour des chatbots créatifs mais cohérents. Testez toujours ces valeurs sur un échantillon de sorties avant de les figer dans votre prompt système.

Max tokens, stop sequences et fenêtre de contexte

• Max tokens : plafonne la longueur de la sortie
• Stop sequences : terminent la génération prématurément
• Fenêtre de contexte : définit la mémoire du modèle
• Un token équivaut à quatre caractères environ
• Cent tokens représentent 60 à 80 mots

Ces trois paramètres ne modifient pas la créativité du modèle, contrairement à la température ou au top-p. Ils encadrent simplement le début et la fin de la génération. Les maîtriser évite les réponses interminables et les sorties tronquées au mauvais endroit.

Max tokens

Le paramètre max tokens fixe la limite supérieure du nombre de jetons que le modèle peut générer. Par exemple, un budget de 100 tokens produira un texte court d’environ 60 à 80 mots, tandis qu’un budget de 500 tokens autorisera un développement plus complet. Pour un chatbot conversationnel, une limite basse suffit ; pour la rédaction d’un article, il faut prévoir une marge confortable.

Attention à la taille du vocabulaire : de grands modèles comme Mistral intègrent 32 000 tokens, tandis que Llama 3 en gère 128 000. Le découpage en tokens ne suit pas les mots un token représente environ 4 caractères. Un même mot peut ainsi être découpé en plusieurs jetons, ce qui consomme le budget plus vite qu’on ne l’imagine.

Stop sequences et fenêtre de contexte

Les stop sequences sont des chaînes prédéfinies qui interrompent la génération dès qu’elles sont produites. Elles sont idéales pour empêcher le modèle de dépasser un format précis, comme la fin d’un bloc de code ou une formule de politesse. Elles évitent aussi de laisser le modèle « divaguer » après avoir répondu à la question.

La fenêtre de contexte représente le nombre maximal de tokens que le modèle peut analyser à la fois. Elle inclut la requête, les échanges précédents et la réponse en cours de génération. Si la somme dépasse cette fenêtre, le modèle oublie les premiers éléments de la conversation. C’est la mémoire de travail du système : plus elle est grande, plus le modèle peut raisonner sur un long historique.

Régler ces trois paramètres correctement permet de maîtriser la forme de la réponse, sans altérer son fond. Combinez-les avec prudence : un max tokens trop faible coupe une réponse pertinente, tandis qu’une stop sequence mal placée empêche le modèle d’aller au bout de son raisonnement.

Comment combiner température, top-p et top-k : ordre et bonnes pratiques

Ces paramètres s’appliquent en séquence, pas isolément. Le pipeline typique commence par la température, qui modifie la distribution de probabilité, puis applique le filtrage top-k et top-p, avant l’échantillonnage final. Si la température étire la courbe des logits, le top-k et le top-p ne font que sélectionner les tokens autorisés : ils ne changent pas leurs probabilités relatives.

Pour un cadre de décision simple, démarrez avec une température de 0.7 et un top-p de 0.9, puis ajustez un seul paramètre selon le résultat : baissez la température vers 0.2 pour plus de prévisibilité, ou montez vers 1.2 pour plus de créativité. Les fournisseurs recommandent de ne modifier qu’un paramètre à la fois, car les combiner peut produire des sorties imprévisibles. Utilisez un top-p plus bas (0.8) uniquement si la température est élevée, pour couper les tokens de mauvaise qualité tout en gardant une part d’étonnement.

{
« @context »: « https://schema.org »,
« @type »: « Article »,
« headline »: « Température, Top-p et Top-k : Guide Complet pour Régler les Paramètres des LLM »,
« description »: « La température contrôle le hasard, while top-p filtre les tokens par probabilité cumulée. »,
« datePublished »: « 2026-09-09 »,
« author »: {
« @type »: « Organization »,
« name »: « alex-test.xyz »
},
« publisher »: {
« @type »: « Organization »,
« name »: « alex-test.xyz »,
« url »: « https://alex-test.xyz »
}
}

{
« @context »: « https://schema.org »,
« @type »: « FAQPage »,
« mainEntity »: [
{
« @type »: « Question »,
« name »: « Qu’est-ce que la température d’un LLM ? Définition et fonctionnement »,
« acceptedAnswer »: {
« @type »: « Answer »,
« text »: « La température est un hyperparamètre qui contrôle le degré de hasard dans les réponses d’un modèle de langage. Sur une échelle de 0.0 à 2.0, une valeur de 0.7 est le réglage par défaut recommandé. À 0.2, le modèle reste prévisible et cohérent, tandis qu’à 1.0, il utilise la distribution de probabili »
}
}
]
}

Ce choix entre adaptatif et fixe rappelle la comparaison RAG fine-tuning, où l’on oppose une approche contextuelle à une modification durable des poids.

Cette précision se retrouve aussi dans le choix de la quantification du modèle, où des formats comme q4_k_m et q8_0 offrent des compromis différents entre taille et fidélité.