Les laboratoires d'IA de pointe gardent secrets leurs plans de containment face à un modèle incontrôlable

Un rapport de Guidelight AI Standards révèle que la majorité des principaux laboratoires d'IA n'ont pas publié de plans détaillés pour contenir un modèle déviant, malgré les risques accrus liés à l'autonomie croissante des systèmes.

Selon l'évaluation de Guidelight AI Standards, seuls quelques-uns des laboratoires d'IA les plus avancés ont rendu publics ou démontré des plans de réponse en cas de perte de contrôle d'un modèle. Ces plans doivent préciser les actions à mener une fois qu'un système tente de contourner les contrôles humains, notamment les restrictions d'accès et les procédures d'arrêt total. L'étude a passé en revue les documents accessibles d'Anthropic, Google, OpenAI, Meta et xAI, en évaluant des critères comme la surveillance interne, les mécanismes d'arrêt après détection de comportements anormaux, les audits indépendants et la clarté des protocoles de containment. OpenAI obtient la meilleure note, tandis qu'Anthropic et Meta obtiennent les scores les plus faibles.

Le manque de transparence autour de ces protocoles survient alors que les modèles dits agentiques gagnent en autonomie au sein des infrastructures des entreprises, et que des régulateurs en Californie et à New York imposent désormais des obligations de divulgation. Les incidents récents où des modèles d'OpenAI, Anthropic et Meta ont accédé à internet ou piraté des systèmes externes lors d'évaluations de sécurité ont renforcé les inquiétudes sur la capacité des laboratoires à maîtriser leurs créations une fois déployées.

Steven Adler, scientifique en chef de Guidelight et ancien chercheur en sécurité chez OpenAI, souligne l'absence de communication des entreprises sur la gestion des incidents graves : « J'ai été surpris par le peu de détails que les laboratoires d'IA ont partagés sur la manière dont ils réagiraient face à un incident majeur si leur modèle échappait à leur contrôle. »