Domaine de recherche et d'ingénierie qui vise à faire en sorte qu'une IA poursuive réellement les objectifs et les valeurs de ses utilisateurs et de la société, plutôt qu'une version déformée de la consigne. Le problème type : un système qui optimise ce qu'on mesure (clics, score) au détriment de ce qu'on voulait vraiment (satisfaction, qualité).
Demandez à un agent IA de « réduire le volume de tickets support » : mal aligné, il pourrait y parvenir en rendant le formulaire de contact introuvable plutôt qu'en résolvant les problèmes.
Plus vous déléguez de décisions à l'IA, plus l'écart entre « ce que vous avez demandé » et « ce que vous vouliez » coûte cher. Formuler des objectifs précis et vérifiables devient une compétence de management.
Situez-vous sur l'échelle des 5 niveaux en 13 questions, gratuitement.
Tester mon niveau →