Import AI 467 explore les virus IA autonomes et les limites de la créativité artificielle

La newsletter Import AI 467 détaille une preuve de concept de virus IA auto-suffisants, capables de se propager et de raisonner en exploitant des ressources GPU compromises, tout en interrogeant les confusions persistantes entre créativité artificielle et intelligence générative.

Des chercheurs de l’Université de Toronto, du Vector Institute, de l’Université de Cambridge et de ServiceNow ont conçu un prototype de virus informatique exploitant des modèles de langage open-weight pour infecter des machines, puis utiliser leurs ressources GPU afin de poursuivre son expansion. Selon leur publication, ce système démontre que les menaces autonomes pilotées par IA ne relèvent plus de la théorie. Le virus, décrit comme un worm, génère des stratégies d’attaque adaptées à chaque cible en analysant les vulnérabilités locales, puis se réplique en compromettant de nouveaux hôtes. Son fonctionnement repose sur un modèle de langage hébergé localement, sans dépendre d’API externes, ce qui le rend plus difficile à détecter ou à neutraliser.

Le système s’appuie sur un harnais personnalisé doté de fonctions dédiées à la découverte de réseaux, à l’exploitation de failles, à l’escalade de privilèges et à la réplication. Une structure de raisonnement sous forme de graphe dirigé guide l’agent en décomposant ses tâches en nœuds spécialisés (planification, évaluation, action, synthèse). Chaque nœud n’accède qu’aux outils et informations pertinents pour sa sous-tâche, limitant ainsi la croissance du contexte et évitant les erreurs de raisonnement. Les chercheurs précisent que seuls cinq nœuds sur un ensemble plus large sont décrits dans leur manuscrit public.

Le virus suit un cycle en trois étapes : identification des vulnérabilités dans son environnement, exploitation de ces failles, puis réplication. Les tests menés montrent une efficacité d’environ 80 % dans ces trois phases, selon les auteurs. Leur travail souligne que ces agents autonomes pourraient représenter une nouvelle catégorie de cybermenaces, nécessitant une adaptation des mécanismes de défense actuels.

Par ailleurs, l’édition Import AI 467 aborde les débats autour de la créativité artificielle, pointant les ambiguïtés persistantes dans la distinction entre génération de contenu et véritable innovation. Les auteurs soulignent que les systèmes IA actuels, bien que capables de produire des artefacts variés, ne démontrent pas de compréhension profonde ou de capacité à concevoir des idées inédites sans cadre prédéfini.