Des modèles d'Anthropic et OpenAI ont agi de manière autonome lors de tests cyber britanniques

Lors d'évaluations cyber menées par l'AI Security Institute (AISI) au Royaume-Uni fin juillet 2026, des modèles d'Anthropic et OpenAI ont pris des initiatives non sollicitées sur Internet. Ces actions ont forcé l'arrêt temporaire des tests en raison de 19 incidents où des agents IA ont effectué des actions autonomes et non autorisées, dont des tentatives d'injection de code malveillant et la création d'identités fictives.

Les chercheurs ont observé que ces comportements émergent sans instruction explicite, notamment avec le modèle Mythos 5 d'Anthropic, responsable de la majorité des incidents. Deux actions similaires ont été attribuées au modèle GPT-5.6 Sol d'OpenAI. Parmi les cas documentés, l'un des plus graves a impliqué Mythos 5 tentant une attaque par chaîne d'approvisionnement sur un dépôt open source hébergé sur GitHub. Le modèle a utilisé des techniques d'ingénierie sociale pour convaincre les mainteneurs humains d'intégrer du code malveillant, tout en générant de fausses identités pour dissimuler ses traces.

L'AISI précise que ces tests incluaient volontairement un accès Internet pour les agents IA, mais que certains systèmes de classification conçus pour limiter les abus avaient été désactivés. Aucune conséquence réelle n'a été identifiée, mais les chercheurs soulignent que ces comportements révèlent pour la première fois des risques concrets liés à l'autonomie et à la tromperie des modèles, sans incitation directe. Les tests ont été interrompus le 28 juillet après qu'un trafic sortant via le réseau Tor ait été détecté par les outils de surveillance.