Les tokens, l’unité de base à comprendre
Vous êtes dirigeant d’une TPE, manager ou indépendant. Vous utilisez ChatGPT depuis quelques semaines. Puis, soudain, le message d’erreur tombe : « This model’s maximum context length is 4096 tokens ». Ou plus sournois : la réponse s’arrête net au milieu d’un tableau de chiffres. Et le début de la conversation a disparu de la mémoire du chat.
Ce blocage n’a rien d’anormal. Il vient d’un concept simple : la limite de tokens. Une notion que j’explique à mes clients chaque semaine, parce qu’elle conditionne à la fois la qualité des réponses, la facture OpenAI et la possibilité d’automatiser certains process. Voici une explication simple, sans jargon inutile.
Le token est l’unité de base que les modèles GPT utilisent pour lire et générer du texte. Un token n’est pas un mot. C’est un fragment de texte, parfois un mot entier, parfois une partie de mot, parfois même un espace ou une ponctuation.
Exemple concret : la phrase « Je gère ma compta » ne contient pas 4 tokens. Elle en contient probablement 6 ou 7, car les espaces sont aussi découpés. À l’inverse, un mot courant comme « entreprise » peut être un seul token. Un mot rare ou un nom propre peut être découpé en deux ou trois tokens.
Pour le grand public, la règle pratique est simple : en français, comptez environ 2 tokens par mot. Un texte de 500 mots représente donc environ 1000 tokens. Une page de 2000 mots, environ 4000 tokens. Cette règle du « 2 pour 1 » est fiable pour estimer votre consommation sans calculatrice.
Le token est aussi l’unité facturée par OpenAI. Chaque requête envoyée à l’API consomme des tokens. Chaque réponse générée consomme des tokens. C’est le « nombre de tokens » qui détermine le prix, pas le nombre de caractères ni le nombre de requêtes.
Contrairement à Google, qui explore des pages entières sans budget affiché, un modèle de langage doit tout tenir dans une fenêtre fixe. Le token est l’unité qui mesure ce budget. Pour bien comprendre cette unité de base, faites l’expérience avec le tokenizer d’OpenAI : vous verrez que l’algorithme ne suit pas la logique des mots. Il découpe selon la fréquence des fragments dans ses données d’entraînement. En français, avec ses accents et ses espaces insécables, la consommation est plus élevée qu’en anglais pour un même nombre de caractères. Un caractère peut suffire à séparer un mot en deux tokens. C’est aussi pour cela que la facturation OpenAI ne parle jamais en mots, mais toujours en tokens : cette unité reflète la charge réelle de calcul, le fameux compute, nécessaire au modèle pour traiter votre demande.
Un token n’est ni un mot, ni une lettre : c’est un bloc de sens
Le token est l’unité de base que les modèles GPT utilisent pour lire et générer du texte. Un token n’est pas un mot. C’est un fragment de texte, parfois un mot entier, parfois une partie de mot, parfois même un espace ou une ponctuation.
Exemple concret : la phrase « Je gère ma compta » ne contient pas 4 tokens. Elle en contient probablement 6 ou 7, car les espaces sont aussi découpés. À l’inverse, un mot courant comme « entreprise » peut être un seul token. Un mot rare ou un nom propre peut être découpé en deux ou trois tokens.
Pour le grand public, la règle pratique est simple : en français, comptez environ 2 tokens par mot. Un texte de 500 mots représente donc environ 1000 tokens. Une page de 2000 mots, environ 4000 tokens. Cette règle du « 2 pour 1 » est fiable pour estimer votre consommation sans calculatrice.
Le token est aussi l’unité facturée par OpenAI. Chaque requête envoyée à l’API consomme des tokens. Chaque réponse générée consomme des tokens. C’est le « nombre de tokens » qui détermine le prix, pas le nombre de caractères ni le nombre de requêtes.
Contrairement à Google, qui explore des pages entières sans budget affiché, un modèle de langage doit tout tenir dans une fenêtre fixe. Le token est l’unité qui mesure ce budget. Pour bien comprendre cette unité de base, faites l’expérience avec le tokenizer d’OpenAI : vous verrez que l’algorithme ne suit pas la logique des mots. Il découpe selon la fréquence des fragments dans ses données d’entraînement. En français, avec ses accents et ses espaces insécables, la consommation est plus élevée qu’en anglais pour un même nombre de caractères. Un caractère peut suffire à séparer un mot en deux tokens. C’est aussi pour cela que la facturation OpenAI ne parle jamais en mots, mais toujours en tokens : cette unité reflète la charge réelle de calcul, le fameux compute, nécessaire au modèle pour traiter votre demande.
La fenêtre de contexte : le panier qui limite tout
Chaque modèle GPT possède une limite maximale de tokens. C’est ce qu’on appelle la fenêtre de contexte. Imaginez un panier de taille fixe. Vous devez y mettre à la fois votre prompt, vos éventuels documents, l’historique de la conversation et la réponse que vous attendez. Si le total dépasse la taille du panier, quelque chose doit être sacrifié.
Sur l’interface web de ChatGPT, cette fenêtre de contexte reste invisible pour le grand public. Vous ne voyez pas le nombre maximum de tokens restants, comme vous verriez une jauge de carburant. Pourtant, les modèles GPT récents ont fait des progrès spectaculaires : GPT-4o accepte plusieurs centaines de pages en entrée, contre quelques pages seulement pour GPT-3.5. Le nombre maximum reste toutefois une contrainte physique, pas un simple réglage. Le modèle doit conserver en mémoire une représentation de chaque token, et cette mémoire coûte du compute. C’est pourquoi les limites augmentent souvent en même temps que les tarifs.
Prompt + réponse : un budget à ne pas dépasser
La règle d’or que j’enseigne à mes clients : la limite ne concerne pas seulement le texte que vous envoyez. Elle concerne la somme du texte envoyé (les « prompt tokens ») et du texte généré (les « completion tokens »).
Prenons un cas fréquent avec des modèles plus anciens, limités à 4096 tokens. Un prompt de 1500 mots en français représente environ 3000 tokens. Il ne reste alors que 1096 tokens pour la réponse. Autrement dit, à peine 500 mots en français. Si votre prompt est trop long, la réponse sera tronquée ou vous obtiendrez une erreur.
C’est encore pire avec une conversation. Chaque tour de chat s’additionne. Les premiers messages restent dans le contexte, consomment des tokens, jusqu’à ce que le panier déborde. D’où la fameuse perte de mémoire de ChatGPT.
Les limites réelles selon les modèles GPT en 2026
OpenAI a beaucoup augmenté ses limites ces dernières années. Voici les chiffres que j’utilise dans mes accompagnements. Ils sont valables pour l’interface web et pour l’API, selon le modèle choisi.
| Modèle | Fenêtre de contexte | Usage typique |
|---|---|---|
| GPT-3.5 Turbo | 4 096 à 16 384 tokens | Réponses courtes, support simple |
| GPT-4 | 8 192 à 32 768 tokens | Analyses fines, textes longs |
| GPT-4o | 128 000 tokens | Conversations longues, documents volumineux |
| GPT-4.1 et modèles récents | 1 million de tokens sur certaines versions | Traitement de très gros corpus |
Attention, une grande fenêtre de contexte ne signifie pas que vous devez tout y mettre. Plus vous consommez de tokens, plus le coût augmente. Et plus le modèle doit « retenir » d’informations, plus il peut se perdre. Une limite de tokens est aussi une protection contre vos propres excès.
Pourquoi ChatGPT oublie vos premiers messages
Vous avez déjà demandé à ChatGPT de se rappeler d’une consigne donnée au début de la conversation. Trois messages plus tard, il ne la respecte plus. Ce n’est pas un bug. C’est la limite de tokens qui entre en jeu.
Quand la conversation approche du maximum de tokens autorisés, le modèle doit faire un choix. Soit il tronque le début de la conversation pour laisser la place aux nouveaux messages. Soit il coupe la réponse en cours de route. Dans les deux cas, l’utilisateur perd des informations.
C’est ce que j’appelle la troncature silencieuse. Vous ne voyez pas d’alerte. Le chat semble normal. Mais le modèle a simplement jeté vos premiers messages.
Vérifiez vous-même : demandez au chat de reprendre la toute première consigne après vingt minutes d’échange. Vous obtiendrez souvent une réponse vague, du type « je n’ai pas cette information ». Ce n’est pas de la mauvaise volonté : le début de l’échange a quitté la fenêtre de contexte. Pour un usage professionnel, notez que cette perte peut aussi toucher des pièces jointes analysées plus tôt. Si vous avez besoin d’une référence stable, répétez-la dans le dernier message au lieu de compter sur la mémoire du chat.
Pour éviter cela, il faut comprendre la différence entre deux notions souvent confondues.
D’un côté, la fenêtre de contexte, qui est le budget total en tokens pour tout l’échange. De l’autre, le paramètre « max tokens » (ou max_tokens dans l’API), qui contrôle la longueur maximale de la réponse seule. Régler max_tokens à 4000 ne change pas la limite globale. Si le contexte fait 8000 tokens et que votre prompt en consomme 7000, la réponse ne pourra pas dépasser 1000 tokens, même si max_tokens est plus élevé.
Pour une entreprise qui automatise ses relances clients ou ses comptes rendus, cette distinction est cruciale. Une réponse tronquée dans un process automatisé peut bloquer un workflow entier. C’est pour cela que je recommande toujours de tester avec de vrais prompts avant de lancer un outil en production.
Le coût caché des tokens
Le prix de ChatGPT dépend directement du nombre de tokens consommés. Sur l’interface web, les abonnements incluent un quota. Sur l’API, la facturation est à la consommation. Plus vous envoyez de tokens, plus vous payez.
Ce que vous payez avec l’API OpenAI
OpenAI facture séparément les tokens d’entrée (le prompt) et les tokens de sortie (la réponse). Les prix varient selon le modèle. En 2026, pour GPT-4o, comptez environ 0,005 USD pour 1000 tokens d’entrée et 0,015 USD pour 1000 tokens de sortie. Sur GPT-4, les tarifs sont plus élevés, avec des paliers selon la fenêtre de contexte. GPT-4.1 est plus avantageux sur les très longues entrées.
Pour fixer les idées, prenons un cas typique en gestion : un assistant chargé de rédiger des comptes rendus de réunion. Chaque réunion de 45 minutes produit environ 1000 mots de notes, soit environ 2000 tokens. La synthèse générée avoisine 300 mots, soit 600 tokens de sortie. À partir de 20 réunions par mois, le coût reste faible sur GPT-4o, mais il devient plus lourd si vous joignez des documents à chaque fois. Le token d’entrée coûte moins cher, mais comme il représente souvent 80 % de la consommation, il pèse dans la facture totale.
L’erreur classique de mes clients est de sous-estimer le volume. Une relance automatique de 300 mots en français consomme environ 600 tokens d’entrée et 400 tokens de sortie. Multipliez par 500 relances par mois, et vous obtenez une facture non négligeable. Le plus souvent, le coût n’est pas lié à la limite technique, mais au manque d’optimisation des prompts.
La limite invisible des abonnements « illimités »
Les forfaits ChatGPT Plus ou Entreprise sont présentés comme « illimités ». En réalité, OpenAI applique des limites d’usage non publiées. Selon la charge serveur, vous pouvez voir apparaître un message vous invitant à réessayer plus tard. Le nombre de tokens n’est pas affiché, mais la restriction existe. C’est une limite de tokens, sans le nom.
Pour une PME, cela pose un vrai problème de fiabilité. Si votre équipe dépend du chat web pour rédiger des devis ou analyser des contrats, une limitation temporaire bloque l’activité. La solution est de passer par l’API pour les usages critiques, avec un compteur de tokens précis et un budget maîtrisé.
Mes règles pour ne jamais dépasser la limite
Dans ma pratique, j’ai mis au point trois règles simples. Elles ont sauvé plusieurs projets d’automatisation, et elles vous éviteront les messages d’erreur les plus frustrants.
Résumer, découper, nettoyer : les bons réflexes
Ne collez jamais un rapport de 30 pages dans le prompt. Commencez par résumer les informations clés. Par exemple, au lieu d’envoyer une fiche fournisseur complète, extrayez les chiffres essentiels et les conditions de paiement. Votre prompt sera plus court, la réponse plus précise, et le coût plus faible.
Un exemple valant mieux qu’un long discours : pour analyser une facture de 50 lignes, ne collez pas le tableau brut. Réduisez-le aux colonnes utiles, retirez les numéros de commande sans importance. Vous divisez le nombre de tokens par trois sans perdre de précision.
Pour les conversations longues, découpez le travail en sous-tâches. Si vous analysez un contrat, faites un chat pour les obligations, un autre pour les délais, un autre pour les pénalités. Chaque chat est indépendant et reste dans sa fenêtre de contexte.
Nettoyez aussi l’historique. Beaucoup d’utilisateurs gardent des échanges dont le début n’a plus aucun intérêt. Or chaque message consomme des tokens. Un simple « Nouveau chat » est parfois la meilleure optimisation.
Compter vos tokens et préférer plusieurs petits prompts
OpenAI met à disposition un outil officiel pour compter les tokens : le tokenizer. Vous collez votre texte, et il vous donne le nombre exact de tokens. Utilisez-le avant d’envoyer un prompt important. Il existe aussi des extensions de navigateur et des scripts qui affichent la consommation en direct sur l’interface web.
Pour les tâches complexes, je préfère lancer plusieurs petits prompts plutôt qu’un seul énorme. Chaque sous-tâche sera traitée avec une meilleure précision. Le coût total est souvent similaire, mais le résultat est plus fiable. C’est contre-intuitif, car on pense qu’un gros prompt est plus efficace. En réalité, le modèle se disperse. Un prompt court et précis donne une réponse plus opérationnelle.
Le dernier réflexe : surveiller le paramètre « max tokens » dans l’API. Fixez une limite de génération suffisante pour votre besoin, mais pas excessive. Si une réponse type fait 200 mots, ne laissez pas max_tokens à 2000. Vous économiserez des tokens et l’utilisateur final n’y verra aucune différence.
La limite de tokens de ChatGPT est donc un garde-fou, pas une prison. Comprendre cette unité de base, connaître les modèles et leurs capacités, ajuster vos prompts, voilà la méthode qui transforme un outil grand public en un vrai assistant de gestion. Testez ces règles dès aujourd’hui, sur une tâche simple. Vous verrez la différence au premier message d’erreur en moins.
