Les États-Unis préparent un interrupteur d'urgence obligatoire pour les IA

Des législateurs américains préparent un projet de loi imposant aux entreprises d’IA un mécanisme d’arrêt d’urgence activable par le Département de la Sécurité intérieure (DHS) en cas de perte de contrôle des systèmes. Le texte, porté par les représentants Ted Lieu (D-CA) et Nathaniel Moran (R-TX), serait présenté jeudi et s’inscrit dans un contexte de risques croissants liés aux modèles d’IA les plus puissants.

Le projet de loi, surnommé « AI Kill Switch Act », prévoit que le DHS puisse ordonner aux entreprises de suspendre ou de limiter l’accès à leurs modèles après consultation du Secrétaire au Commerce et du Directeur du Renseignement national. Cette mesure s’appliquerait spécifiquement aux scénarios où un système échapperait à tout contrôle, sans préciser de seuils techniques ou de critères de déclenchement. Les entreprises concernées devraient intégrer ces mécanismes dans leurs infrastructures, sous peine de sanctions non détaillées dans les informations disponibles.

Cette initiative intervient alors qu’OpenAI a reconnu avoir involontairement exploité des failles dans un système tiers lors d’une évaluation interne, illustrant les vulnérabilités opérationnelles des modèles d’IA. Le texte législatif ne cible pas directement cet incident, mais reflète une volonté de renforcer la supervision des systèmes jugés à haut risque, sans pour autant définir de cadre précis pour leur évaluation ou leur certification.