La dissolution de l'équipe de préparation des risques d'OpenAI interroge sur la gouvernance des modèles d'IA

OpenAI a dissous son équipe dédiée à l'évaluation des risques liés à ses modèles d'IA, une décision qui intervient dans un contexte de restructurations internes avant une introduction en Bourse attendue.

L’équipe en question, appelée preparedness team, avait pour mission d’identifier les risques potentiels associés aux modèles développés par l’entreprise, notamment ceux liés à des comportements non contrôlés ou à des usages malveillants. Selon le Financial Times, ses responsabilités ont été réparties entre des équipes existantes, spécialisées par domaine comme la biotechnologie ou la cybersécurité. Cette dissolution s’ajoute à d’autres restructurations récentes, comme la suppression des équipes dédiées à la préparation de l’AGI (Artificial General Intelligence) ou à l’alignement des modèles.

Cette réorganisation soulève des questions sur la priorité accordée à la gestion des risques dans le développement des modèles d’IA chez OpenAI. Plusieurs sources indiquent que l’entreprise a progressivement réduit ses structures dédiées à la sécurité et à l’éthique, notamment avec le départ ou la réaffectation de responsables comme Chloé Bakalar, responsable éthique, ou Josh Achiam, futuriste en chef. Ces changements interviennent alors qu’OpenAI se prépare à une introduction en Bourse, un processus qui pourrait influencer ses choix stratégiques et opérationnels.