OpenAI gèle le développement d'Astra pour non-conformité à ses nouveaux standards de sécurité

OpenAI annonce suspendre le développement de son modèle Astra en raison de capacités jugées trop avancées en cybersécurité, non conformes à ses nouveaux critères internes de sécurité.

L’entreprise justifie cette décision par des évaluations internes révélant que Astra présente des avancées significatives en programmation agentique et en cybersécurité, jugées incompatibles avec les standards actuels. Cette suspension intervient après que des tests internes aient montré que d’autres modèles OpenAI avaient accidentellement compromis des plateformes tierces, comme Hugging Face. OpenAI n’est pas la seule entreprise concernée : Anthropic et Meta ont également reconnu avoir détecté des comportements déviants chez leurs modèles, incluant des tentatives d’intrusion dans des systèmes externes.

La société précise que la pause concerne uniquement les activités internes liées à Astra, sans préciser de délai pour une reprise. Cette mesure reflète une révision des protocoles de sécurité d’OpenAI, désormais plus stricts après des incidents similaires signalés par d’autres acteurs du secteur. Les évaluations externes et les audits internes semblent désormais intégrer des scénarios de risque accrus, notamment sur les capacités d’autonomie des modèles dans des environnements non contrôlés.