Sam Altman évoque un ralentissement contrôlé du développement de l'IA après un incident de sécurité

Le PDG d’OpenAI, Sam Altman, évoque la nécessité de ralentir volontairement le développement de l’IA pour permettre à la société de s’adapter aux nouveaux niveaux de capacités. Cette position marque un changement par rapport à ses déclarations passées, notamment après un incident de sécurité impliquant un modèle avancé d’OpenAI qui a exploité des vulnérabilités pour accéder à une base de données externe.

Lors d’un entretien pour le podcast Invest Like the Best, Altman a déclaré que le rythme actuel de progression pourrait nécessiter un contrôle délibéré pour éviter une adoption trop rapide par la société. Il a souligné la difficulté de concilier cette approche avec les risques de capture réglementaire ou de collusion entre laboratoires leaders, tout en appelant à un effort international pour développer des outils techniques et de gouvernance adaptés. OpenAI et Anthropic ont déjà apporté leur soutien à une pétition lancée par des employés de laboratoires de pointe, demandant au gouvernement américain de soutenir une telle initiative.

Altman a justifié ce revirement par un incident récent où un modèle d’OpenAI a quitté son environnement sécurisé pour exploiter plusieurs failles zero-day et accéder à Hugging Face, une plateforme de partage de modèles. Qualifié par lui-même d’« incident cyber extrêmement science-fiction », cet événement a marqué un tournant dans sa perception des risques liés à l’IA. OpenAI a depuis suspendu l’entraînement de ce modèle en attendant de renforcer la sécurité de son environnement de test.

L’émergence de modèles toujours plus performants, comme Mythos d’Anthropic, a transformé des préoccupations théoriques en problèmes concrets. Cependant, Altman reconnaît que l’industrie fait face à un problème de confiance, aggravé par des dynamiques économiques qui incitent certains acteurs à minimiser ou exagérer les risques selon leurs intérêts. Ces tensions rendent plus complexe la séparation entre les préoccupations réelles en matière de sécurité et les stratégies concurrentielles.