Le coût d’inférence des agents IA pourrait être multiplié par cinq d’ici 2028
Malgré la baisse du coût unitaire des tokens, Gartner anticipe une forte hausse de la facture liée aux agents IA. Le cabinet l’explique par le recours à des modèles plus puissants et à des workflows consommant davantage de tokens.
Le coût d’inférence par workflow agentique devrait augmenter de plus de cinq fois d’ici 2028, selon Gartner. Le cabinet estime que la baisse du coût unitaire des tokens ne suffira pas à compenser l’augmentation des ressources consommées à mesure que les produits d’IA passent de fonctions d’assistance à l’exécution de tâches en plusieurs étapes.
Gartner qualifie ce phénomène de «paradoxe de l’inférence». La baisse du coût unitaire des tokens permet de recourir à des capacités plus puissantes et plus coûteuses pour développer des applications plus sophistiquées, mais dont les workflows consomment davantage de tokens. Selon le cabinet, les capacités de l’IA progressent actuellement plus rapidement que les coûts des tokens ne diminuent.
Des agents plus gourmands en ressources
La différence est particulièrement marquée avec les agents IA. Alors qu’un chatbot interprète une requête et génère une réponse, un agent doit, selon Gartner, raisonner en continu, négocier et remettre en question ses propres étapes. Confier une tâche à un modèle de raisonnement agentique multiplierait ainsi par au moins cinq les coûts d’inférence supportés par le fournisseur par rapport à une interaction avec un chatbot basique. L’écart peut encore augmenter avec la complexité de la tâche.
Gartner ne prévoit par ailleurs pas l’émergence d’un modèle unique capable de répondre de manière fiable et économique à l’ensemble des besoins. Le cabinet anticipe plutôt des écosystèmes combinant plusieurs modèles. Selon lui, la rentabilité des agents de raisonnement repose soit sur des gains très supérieurs à ceux des modèles basiques, soit sur une optimisation poussée de la hiérarchisation, du routage et de l’orchestration de l’inférence afin d’adapter les capacités mobilisées à la complexité des tâches.
Will Sommer, analyste chez Gartner, avertit enfin que le recours par défaut à des capacités autonomes généralistes pourrait entraîner des coûts supérieurs de plusieurs ordres de grandeur à ceux d’écosystèmes optimisés.
L’actualité IT en Suisse et à l’international, avec un focus sur la Suisse romande, directement dans votre boîte mail > Inscrivez-vous à la newsletter d’ICTjournal, envoyée du lundi au vendredi!
