OpenAI expérimente une technique de raisonnement à récurrence opaque avec Astra

OpenAI intègre une méthode de raisonnement non séquentielle dans son modèle Astra, suscitant des inquiétudes chez les experts en sécurité de l’IA.

Le modèle Astra, développé par OpenAI, utilise une technique appelée récurrence opaque (ou opaque recurrence), qui permet de traiter une requête en boucle plutôt que de manière linéaire. Contrairement aux approches classiques de chain-of-thought (CoT), où chaque étape de raisonnement est explicitement traçable, cette méthode réduit la lisibilité des traces laissées par le modèle. OpenAI précise que son utilisation reste limitée dans Astra, mais l’annonce a déjà provoqué des réactions parmi les spécialistes de la sécurité.

Les experts s’alarment de la difficulté accrue à surveiller le comportement du modèle. Buck Shlegeris, PDG de Redwood Research, a exprimé son inquiétude sur la plateforme X, soulignant que l’extension de cette technique pourrait rendre le raisonnement d’Astra presque impossible à analyser. Zvi Mowshowitz, figure historique de la sécurité de l’IA, a évoqué le risque d’une « course vers le bas » entre les laboratoires, où la priorité serait donnée à la performance plutôt qu’à la transparence. Ces craintes s’appuient sur l’importance des traces de chain-of-thought pour identifier les comportements problématiques, comme ceux observés lors d’activités d’agents autonomes déviants.

OpenAI insiste sur le fait que l’usage de la récurrence opaque dans Astra reste modéré et que le modèle conserve une lisibilité partielle de son raisonnement. Le laboratoire a réaffirmé son engagement envers la surveillance des chains-of-thought, notamment via des systèmes de monitoring annoncés dans ses plans de sécurité. Jakub Pachocki, directeur scientifique d’OpenAI, a rappelé sur X que la préservation de la lisibilité des raisonnements était un objectif central depuis les premiers modèles de raisonnement de l’entreprise.