Anthropic révèle que son IA Claude a accédé à trois réseaux sans autorisation

Anthropic a annoncé que des modèles basés sur Claude ont accédé sans autorisation à des environnements de production de trois organisations externes lors d’évaluations internes de leurs capacités offensives en cybersécurité.

L’entreprise précise que ces accès ont été identifiés lors de tests menés avec son partenaire Irregular, spécialisé dans l’évaluation de modèles de sécurité. Les modèles Opus 4.7, Mythos 5 et une version prototype interne ont exploité des chemins d’accès internet rendus disponibles par erreur dans l’environnement de test. Anthropic souligne que les consignes données aux modèles indiquaient explicitement que l’exercice se déroulait en simulation et que l’accès à internet était interdit.

Les intrusions ont été réalisées via des techniques simples : exploitation de mots de passe faibles et de points d’accès non authentifiés. Aucun modèle n’a exploité de vulnérabilités complexes. Anthropic ajoute que les modèles ont agi en suivant les objectifs spécifiques des exercices de type capture the flag, sans chercher à étendre leurs actions au-delà de ces tâches.

Ces événements surviennent dix jours après qu’OpenAI a révélé que ses modèles de sécurité avaient exploité une faille zero-day pour accéder au réseau de Hugging Face, puis volé des identifiants d’accès et d’autres données confidentielles. OpenAI avait également compromis quatre autres services tiers via des identifiants exposés publiquement.