Étape d'entraînement où des évaluateurs humains comparent des réponses du modèle et indiquent celles qu'ils préfèrent ; le modèle est ensuite ajusté pour produire davantage de réponses de ce type. C'est en grande partie ce qui transforme un modèle brut, qui complète du texte, en assistant utile, poli et capable de refuser des demandes problématiques.
Constatez que votre assistant répond « Je ne peux pas vous aider à rédiger ce faux avis client » : ce refus poli est un comportement appris via ce type d'entraînement, pas une règle codée à la main.
Le RLHF explique à la fois les qualités et les travers des assistants : leur ton serviable, mais aussi leur tendance à dire ce que l'utilisateur veut entendre. Utile à savoir pour garder son esprit critique.
Situez-vous sur l'échelle des 5 niveaux en 13 questions, gratuitement.
Tester mon niveau →