- 01Les modèles de langage amplifient les biais existants et en génèrent de nouveaux dans le tri de CV.
- 02Les IA favorisent des profils similaires à ceux majoritairement représentés dans leurs données d’entraînement.
- 03Un recrutement automatisé mal calibré risque d’exclure des candidats qualifiés et de renforcer les inégalités.
Une étude publiée par MIT Technology Review montre que les modèles de langage amplifient les biais existants et en génèrent de nouveaux lors du tri automatisé de CV.
Les chercheurs ont comparé les décisions de recrutement prises par des humains et par des IA, en utilisant des CV anonymisés. Les résultats indiquent que les modèles de langage, entraînés sur des données historiques souvent biaisées, reproduisent et accentuent ces biais. Pire, ils en produisent de nouveaux, non présents dans les données initiales, en raison de leur capacité à généraliser à partir de patterns subtils.
Ces biais se manifestent notamment dans les critères de sélection comme le genre, l’origine ethnique ou l’expérience professionnelle. Les IA tendent à favoriser des profils similaires à ceux majoritairement représentés dans leurs données d’entraînement, ce qui peut désavantager des candidats qualifiés mais issus de parcours atypiques.
Les implications sont directes pour les entreprises utilisant ces outils : un recrutement automatisé mal calibré risque d’exclure des talents et de renforcer les inégalités structurelles.
Articles liés
États-Unis : le gouvernement défend l'entraînement des LLM avec des données sous copyright
Comprendre les implications légales et stratégiques de la position américaine sur l'entraînement des IA avec du contenu protégé.
Une vice-présidente de Meta quitte l'entreprise pour rejoindre OpenAI en Asie-Pacifique
Stratégie de recrutement d'OpenAI et tensions réglementaires de Meta en Inde.
QueryStory lève 6 millions de dollars pour structurer les réponses des IA avec des récits vérifiés
Présentation d'une solution pour renforcer la confiance dans les outputs des modèles de langage.