Le paradoxe du token

Lors d'une de mes premières expérimentations d'IA agentique, une après-midi passée à faire tourner des agents en boucle sur du code réel, j'ai consommé cinq cents euros de tokens. Le chiffre m'a d'abord fait grimacer. Avec le recul, cette après-midi annonçait à petite échelle ce que les directions financières constatent aujourd'hui sur leurs factures : un agent qui travaille consomme sans commune mesure avec ce qu'un humain consomme en conversant, et c'est justement ce travail qu'on lui achète.

À performance égale, le prix de l'inférence s'effondre

Le paradoxe met en jeu deux mouvements opposés. Le premier est la baisse du prix de l'inférence, c'est-à-dire du coût que représente, pour un modèle, la production d'une réponse. Ce prix se compte en tokens, les fragments de mots dans lesquels le modèle découpe le texte qu'il lit et qu'il écrit, et que les fournisseurs facturent au million. À niveau de performance donné, il baisse très vite. Epoch AI, institut indépendant qui mesure les trajectoires quantitatives de l'IA, évalue en septembre 2026 cette baisse à environ 47 % par trimestre depuis 2023, soit un facteur treize par an^[1].

Ce rythme varie avec l'ancienneté du niveau visé. La baisse atteint un facteur soixante-quinze par an au moment où une performance s'impose comme l'état de l'art, puis retombe à un facteur 4,7 deux ans plus tard^[1]. Le prix des capacités les plus récentes est donc celui qui baisse le plus vite.

L'équipe du MIT FutureTech dirigée par Neil Thompson arrive à un ordre de grandeur voisin dans la version révisée de son étude, publiée en mars 2026 : de cinq à dix fois par an pour les modèles de pointe, dont environ un facteur trois provient des seuls progrès algorithmiques^[2]. Le phénomène avait reçu son nom dès la fin de 2024, quand Guido Appenzeller, associé chez Andreessen Horowitz, a parlé de « LLMflation », mot-valise formé sur LLM (grand modèle de langage) et « inflation »^[3]. L'été 2026 a même fait parler de guerre des prix : à la fin de juillet, OpenAI a baissé de 80 % le prix de GPT-5.6 Luna, le moins cher de sa gamme, et de 20 % celui de GPT-5.6 Terra, son modèle intermédiaire ; en août, Anthropic a renoncé à la hausse qu'elle avait annoncée pour Sonnet 5, resté à 2 dollars par million de tokens en entrée^[4][5].

Une déflation qui a ses angles morts

Ces mesures portent sur un niveau de performance fixe. Or les entreprises veulent le meilleur modèle disponible, et ce palier se paie plus cher : selon l'équipe du MIT, le prix d'exécution des modèles de pointe augmente de trois à dix-huit fois par an, sous l'effet de modèles plus gros et de raisonnements plus longs^[2]. Chez Anthropic, Fable 5.1 est facturé 10 dollars par million de tokens en entrée, contre 4 dollars pour Opus 5.5^[5]. Le décompte a lui aussi changé. Depuis Claude 4.7, le tokenizer, c'est-à-dire l'outil qui découpe le texte en tokens, en produit environ 30 % de plus pour un même texte^[5], et OpenRouter a mesuré sur des requêtes réelles une hausse effective des coûts de 12 à 27 %, hors requêtes très courtes^[6]. Le prix affiché au million de tokens renseigne donc mal sur le prix d'une tâche.

Et pourtant, les factures montent

Le second mouvement est celui des budgets. Si le coût à performance égale baisse de cinq à treize fois par an, les budgets devraient fondre. Ils font l'inverse. En septembre 2026, Gartner prévoit pour l'année une dépense mondiale d'IA de 2 700 milliards de dollars, en hausse de 49,5 %, avec une progression de 117 % pour la seule dépense en modèles d'IA générative^[7].

Bain a chiffré le mécanisme sur douze mois : entre décembre 2024 et décembre 2025, le coût des tokens a été divisé par deux et leur consommation multipliée par 4,5, ce qui fait plus que doubler la facture^[8]. Dans son enquête publiée en janvier 2026 auprès de grandes entreprises, Andreessen Horowitz relève que leur dépense moyenne en modèles de langage devrait encore progresser d'environ 65 % sur l'année^[9].

L'économiste William Stanley Jevons avait décrit ce mécanisme dès 1865. À mesure que la machine à vapeur devenait économe en charbon, l'Angleterre en brûlait davantage, parce que la baisse du coût d'usage ouvrait des emplois jusque-là trop chers. En janvier 2025, lorsque DeepSeek a secoué les marchés en affirmant avoir entraîné un modèle performant pour une fraction du coût admis, Satya Nadella, directeur général de Microsoft, avait invoqué le même paradoxe pour prédire une envolée de l'usage^[10] ; vingt mois plus tard, les chiffres de 2026 lui donnent raison.

Sur OpenRouter, les agents consomment désormais plus que les humains

La hausse des volumes a un moteur identifiable : les agents. Selon OpenRouter, agrégateur qui donne accès aux modèles de nombreux fournisseurs, les tokens consommés par des systèmes agentiques ont dépassé ceux des humains autour du 1^er février 2026, d'après un trafic de plus de 450 000 milliards de tokens observé entre janvier et la mi-juin^[11]. Selon Peter Walker, d'OpenRouter, la consommation agentique a été multipliée par quatorze depuis ce croisement, contre 2,8 pour l'usage humain, et environ 70 % des tokens agentiques proviennent de contextes mis en cache, c'est-à-dire conservés par le fournisseur pour être relus à moindre coût^[12]. La baisse des prix a rendu les agents abordables, et leur consommation croît bien plus vite que les prix ne baissent, même si le cache en amortit une large part.

L'agent relit tout, à chaque étape

Un agent consomme autant parce qu'il relit son contexte à chaque itération : les fichiers ouverts, les résultats de ses outils, l'historique de la session. Ce contexte grossit à mesure que la tâche avance, et chaque tour le relit en entier. La documentation de Claude Code, l'assistant de programmation agentique d'Anthropic, indique qu'une équipe d'agents consomme environ sept fois plus de tokens qu'une session standard lorsque les coéquipiers travaillent en mode plan, chacun entretenant sa propre fenêtre de contexte^[13]. Pour les tâches de développement, une étude publiée en avril 2026 par des chercheurs de l'université du Michigan et de Stanford, parmi lesquels Erik Brynjolfsson, mesure une consommation de l'ordre de mille fois supérieure, en moyenne, à celle d'un échange conversationnel sur du code^[14].

La même étude relève trois faits qui concernent directement les budgets. À tâche identique, le nombre total de tokens consommés par un même agent peut varier jusqu'à un facteur trente d'une exécution à l'autre, la plus chère coûtant d'ordinaire le double de la moins chère. Les modèles prédisent mal leur propre consommation, qu'ils sous-estiment de façon systématique. Enfin, la précision culmine souvent à un niveau de coût intermédiaire, au-delà duquel les tokens supplémentaires ne l'améliorent plus. Un salarié dont le coût pourrait doubler, voire être multiplié par trente, pour une même tâche, sans qu'il puisse le prévoir, inquiéterait vite sa direction financière.

L'étude ne porte que sur huit modèles et un seul banc d'essai de correction de code (SWE-bench Verified), mais elle rejoint ce que les équipes observent : une partie des tokens améliore le résultat, une autre n'apporte rien, et c'est à l'architecture du système de les départager.

Le budget devient un paramètre d'architecture

Si le volume de tokens pèse à la fois sur la qualité et sur le coût, décider combien un système agentique peut consommer, et à quel endroit, revient à en dessiner l'architecture. Il faut fixer le nombre de vérifications adverses par livrable (des contrôles confiés à un second agent chargé de contester le travail du premier), le nombre d'itérations au-delà duquel l'agent rend la main à un humain, le modèle affecté à chaque étage du système, et la part du contexte relue intégralement ou résumée dans une mémoire. Chacun de ces choix déplace la qualité et la facture en même temps.

L'écart de prix entre modèles donne du poids à ces choix. BCG estime qu'un modèle de pointe coûte de cinq à vingt-cinq fois plus par token qu'un modèle plus simple, et classe les leviers d'optimisation en cinq familles : renoncer aux appels inutiles, aiguiller chaque requête vers le modèle adapté, mettre en cache, encadrer la consommation et former les collaborateurs à un usage pertinent de l'IA^[15]. La mise en cache montre l'ampleur des gains possibles. Chez Anthropic, relire un contexte déjà en cache coûte un dixième du prix normal, et jusqu'à un quarantième sur certains modèles récents^[16]. Ces gains dépendent de la conception du système, sur laquelle le service achats n'a aucune prise.

La gestion des coûts s'est saisie du sujet en deux ans. Selon l'enquête State of FinOps publiée en février 2026 par la FinOps Foundation, qui fédère les praticiens de la gestion des coûts du cloud, 98 % des équipes interrogées gèrent désormais la dépense d'IA, contre 63 % en 2025 et 31 % en 2024^[17]. En juillet 2026, Gartner observait que les budgets d'IA des entreprises font l'objet d'un examen plus strict, centré sur l'efficacité d'usage, la maîtrise des coûts et des résultats mesurables^[18].

Ce que j'applique dans mon propre harness

Depuis plusieurs mois, je conçois un harness d'agents pour l'avant-vente, c'est-à-dire l'ensemble des règles, des outils et des agents spécialisés qui encadrent le travail de Claude Code sur les propositions commerciales, chiffrages et présentations compris. Les règles qui ont le plus pesé sur la facture concernent ce que l'agent lit. Chaque livrable a sa propre session, pour que le contexte ne transporte pas les échanges d'un autre sujet. Les lectures volumineuses, qu'il s'agisse d'un référentiel client ou d'une veille sur le web, sont confiées à un agent secondaire dont seule la synthèse revient dans la session principale. Tout fichier de plus de vingt mille caractères est produit par un script que le modèle écrit une fois puis exécute, ce qui évite d'inscrire le fichier entier dans le contexte de la session. Le contrôle visuel d'une présentation porte sur un échantillon de pages.

Le choix du modèle obéit à la même préoccupation : concentrer la dépense là où une erreur coûterait le plus cher. Les agents de relecture travaillent avec un effort de raisonnement élevé (le réglage qui détermine combien de tokens le modèle consacre à réfléchir avant de répondre), et seul le relecteur adversarial, dont le rôle est de contester chaque chiffre en le recoupant avec sa source avant la remise d'un livrable, utilise le réglage maximal. Pour situer les ordres de grandeur, Anthropic indique, sur ses déploiements en entreprise, un coût moyen d'environ 13 dollars par développeur et par jour d'utilisation active de Claude Code, et moins de 30 dollars par jour pour 90 % des utilisateurs^[13]. Ces montants restent modestes : en moyenne, une journée d'utilisation de Claude Code coûte moins qu'une heure de consultant, et la facture dépend surtout de l'endroit où l'on place les tokens.

Ce qu'il faut en retenir

J'en tire trois convictions pour les directions qui budgètent l'IA agentique.

Le budget IA se pilote comme une capacité de production. L'indicateur utile est le coût par résultat vérifié, qui rapporte la consommation à un livrable dont la qualité a été contrôlée. Quand l'ambition du résultat augmente, la consommation augmente avec elle, et la facture mensuelle seule ne permet pas de juger si la hausse est justifiée.

Le budget tokens appartient aux documents d'architecture, au même titre que la latence ou la disponibilité. Une équipe qui ne sait pas dire où vont les tokens de son système ne peut pas le piloter, ni s'en remettre à l'agent, dont l'étude citée plus haut montre qu'il prévoit mal sa propre consommation.

Reporter un usage pour économiser se paie en retard d'apprentissage. La baisse des prix rend l'attente tentante : une capacité écartée aujourd'hui coûtera environ dix fois moins cher dans un an. Les concurrents qui auront appris entre-temps à placer leurs tokens garderont pourtant leur avance, car ce savoir-faire s'acquiert par la pratique.

Quant à mes cinq cents euros d'expérimentation, rapportés à ce qu'ils m'ont appris sur la conception des harness, ils restent la formation la moins chère que j'aie suivie. Un plafond de dépense posé ce jour-là par la comptabilité m'aurait privé de cet apprentissage pour cinq cents euros d'économie.