Abstract
<jats:p>À mesure que l’intelligence artificielle générative s’intègre de plus en plus dans notre vie quotidienne et dans l’environnement numérique, il devient essentiel d’en comprendre les risques et de participer à la recherche de solutions, afin de veiller à ce qu’elle demeure un outil au service du bien commun.S’appuyant sur les travaux menés par l’UNESCO avec Humane Intelligence, ce GUIDE guide le lecteur à travers le processus de red teaming, au cours duquel les participant·e·s testent des modèles d’IA générative pour en détecter les failles et vulnérabilités susceptibles de révéler des comportements préjudiciables. Il s’agit d’un guide concret conçu pour aider les organisations, les équipes de recherche, les décideur·se·s et les communautés à tester de manière systématique les modèles d’IA générative.Pour illustrer les dommages potentiels, le guide met en évidence la manière dont ces modèles peuvent, parfois sans le vouloir, renforcer les stéréotypes et les préjugés, et, dans certains cas, être délibérément exploités pour faciliter la violence basée sur le genre facilitée par la technologie (VBGFT), à une vitesse et une échelle sans précédent.</jats:p>