Mécanisme par lequel un fournisseur d'IA mémorise la partie fixe d'une requête (instructions, documents de référence) pour ne pas la retraiter à chaque appel. Les appels suivants qui commencent par le même contenu sont alors nettement moins chers et plus rapides.
Faites analyser 500 CV avec la même grille d'évaluation de dix pages : grâce au cache, la grille n'est facturée plein tarif qu'au premier appel, les 499 suivants coûtent une fraction du prix.
Sur des usages répétitifs, la facture peut baisser de plus de moitié sans rien changer à la qualité. Il suffit souvent de structurer ses requêtes en mettant la partie fixe en premier.
Situez-vous sur l'échelle des 5 niveaux en 13 questions, gratuitement.
Tester mon niveau →