Technique qui entraîne un petit modèle à imiter les réponses d'un grand modèle, dit « professeur ». Le petit modèle obtenu est moins coûteux et plus rapide, tout en conservant une bonne partie des capacités du grand, surtout sur les tâches ciblées.
Remplacez le grand modèle qui classe vos e-mails entrants par une version distillée dix fois moins chère : sur cette tâche précise, la qualité reste quasi identique.
C'est un des grands leviers de réduction des coûts IA. Pour une tâche répétitive et bien cadrée, payer le prix du modèle le plus puissant est souvent du gaspillage.
Situez-vous sur l'échelle des 5 niveaux en 13 questions, gratuitement.
Tester mon niveau →