Pratique consistant à attaquer volontairement un système d'IA avant sa mise en service pour découvrir ses failles : le pousser à divulguer des données, à produire des contenus interdits ou à contourner ses règles. Les tests sont menés par des équipes dédiées, humaines ou assistées par d'autres IA, et leurs trouvailles servent à renforcer le système.
Avant de lancer votre chatbot RH, une équipe passe deux jours à essayer de lui faire révéler des salaires ou tenir des propos discriminatoires, et documente chaque brèche trouvée.
Vos utilisateurs (et des acteurs malveillants) testeront les limites de votre IA de toute façon. Mieux vaut découvrir les failles en interne qu'à la une de la presse.
Situez-vous sur l'échelle des 5 niveaux en 13 questions, gratuitement.
Tester mon niveau →