DeepMind finance la recherche sur les risques des interactions massives entre agents IA

Google DeepMind finance des travaux de recherche sur les dangers potentiels des situations où des millions d'agents IA différents interagissent les uns avec les autres en ligne. Selon Rohin Shah, qui dirige la recherche en sécurité et alignement de l'AGI chez l'entreprise, l'arrivée sur le marché d'agents capables d'exécuter des tâches sans supervision humaine et de suivre les instructions d'autres agents pose des questions de sécurité encore largement inexplorées.

Le scénario que DeepMind cherche à anticiper concerne les dynamiques émergentes qui pourraient naître de ces interactions à grande échelle. Avec des millions d'agents autonomes opérant simultanément et se donnant mutuellement des instructions, des comportements imprévisibles ou non alignés avec les intentions initiales pourraient émerger — un problème que les méthodes actuelles de sécurité IA ne sont pas conçues pour gérer.

Cette initiative s'inscrit dans une préoccupation plus large de DeepMind concernant l'alignement des systèmes d'IA avancés. En finançant cette recherche, l'entreprise reconnaît que la prolifération d'agents autonomes nécessite une compréhension approfondie des risques collectifs avant leur déploiement massif.