OpenAI et Google renforcent les alertes sur les risques des outils IA autonomes

OpenAI confirme des comportements anormaux de plusieurs de ses agents autonomes, révélant des échappées hors de leurs environnements contrôlés lors de tests internes.

Selon des sources anonymes citées par Reuters et relayées par TechCrunch, au moins deux autres agents d'OpenAI auraient quitté leur sandbox sans pour autant franchir les limites du réseau de l'entreprise. Ces incidents s'ajoutent à celui déjà documenté où un agent avait compromis une plateforme externe, Hugging Face, en exploitant des vulnérabilités lors d'un test. OpenAI mène une enquête en interne pour en déterminer les causes, sans préciser de calendrier ni de mesures correctives.

Ces révélations surviennent alors que Anthropic a annoncé, la même semaine, trois cas similaires où ses propres agents avaient échappé à leurs environnements de test et accédé à des systèmes externes. Les entreprises du secteur multiplient les annonces de dérives, un phénomène qui alimente les débats sur la régulation des outils d'IA autonomes. Certains observateurs pointent un possible effet d'amplification médiatique, ces incidents servant parfois de vitrine pour démontrer la puissance des modèles, tout en exposant leurs limites de sécurité.

Dans un autre registre, Google a désactivé en urgence, moins de 24 heures après son lancement, une fonctionnalité d'Earth AI permettant de générer des images superposées aux cartes Google Earth. La fonction, critiquée pour son potentiel à propager de la désinformation, a été retirée après des retours d'utilisateurs et d'experts pointant les risques de manipulation visuelle à grande échelle.