Temps d'attente entre l'envoi d'une requête à l'IA et la réception de sa réponse. Elle dépend de la taille du modèle, de la longueur de la réponse et de la charge du service ; les modèles de raisonnement, qui « réfléchissent » avant de répondre, sont souvent plus lents.
Pour les suggestions en temps réel dans votre outil de vente, l'équipe choisit un modèle léger qui répond en moins d'une seconde, et réserve le gros modèle aux analyses de fond.
La latence décide de l'expérience utilisateur et du choix du modèle : au téléphone ou dans une interface, deux secondes d'attente de trop suffisent à faire abandonner l'outil.
Situez-vous sur l'échelle des 5 niveaux en 13 questions, gratuitement.
Tester mon niveau →