La phase où un modèle déjà entraîné est utilisé pour produire des réponses, par opposition à l'entraînement, où il apprend. Chaque question posée à un assistant déclenche une inférence, qui consomme de la puissance de calcul et se facture généralement au volume de tokens traités.
Votre outil de tri d'emails appelle le modèle 5 000 fois par jour : c'est le coût d'inférence, pas celui de l'entraînement, qui constitue votre facture mensuelle.
Quand vous payez de l'IA à l'usage, vous payez de l'inférence. Comprendre cette mécanique éclaire les arbitrages concrets : taille du modèle, longueur des prompts, mise en cache, vitesse de réponse.
Situez-vous sur l'échelle des 5 niveaux en 13 questions, gratuitement.
Tester mon niveau →