- 01Les modèles de langage amplifient les biais existants et en génèrent de nouveaux dans le tri de CV.
- 02Les IA favorisent des profils similaires à ceux majoritairement représentés dans leurs données d’entraînement.
- 03Un recrutement automatisé mal calibré risque d’exclure des candidats qualifiés et de renforcer les inégalités.
Une étude publiée par MIT Technology Review montre que les modèles de langage amplifient les biais existants et en génèrent de nouveaux lors du tri automatisé de CV.
Les chercheurs ont comparé les décisions de recrutement prises par des humains et par des IA, en utilisant des CV anonymisés. Les résultats indiquent que les modèles de langage, entraînés sur des données historiques souvent biaisées, reproduisent et accentuent ces biais. Pire, ils en produisent de nouveaux, non présents dans les données initiales, en raison de leur capacité à généraliser à partir de patterns subtils.
Ces biais se manifestent notamment dans les critères de sélection comme le genre, l’origine ethnique ou l’expérience professionnelle. Les IA tendent à favoriser des profils similaires à ceux majoritairement représentés dans leurs données d’entraînement, ce qui peut désavantager des candidats qualifiés mais issus de parcours atypiques.
Les implications sont directes pour les entreprises utilisant ces outils : un recrutement automatisé mal calibré risque d’exclure des talents et de renforcer les inégalités structurelles.
Articles liés
Une faille fondamentale rend les grands modèles de langage vulnérables aux attaques
Comprendre les limites de sécurité des grands modèles de langage et leurs implications pour les déploiements actuels.
Un député canadien lit un extrait généré par IA lors d’un discours parlementaire
Exemple concret de l'utilisation non déclarée d'outils d'IA dans un contexte institutionnel.
Apple accuse OpenAI d’embaucher plus de 400 anciens employés
Focus sur les allégations d'Apple concernant l'embauche massive de ses anciens employés par OpenAI.