Import AI détaille un virus informatique auto-suffisant exploitant des modèles ouverts

Un consortium de chercheurs canadiens, britanniques et américains démontre la faisabilité d’un virus informatique exploitant des grands modèles de langage (LLM) pour se propager de manière autonome.

Dans sa newsletter Import AI 467, Jack Clark détaille un prototype de virus capable de s’auto-alimenter en ressources de calcul après avoir compromis des machines. Le code malveillant utilise des LLM open-weight hébergés localement sur des GPU volés pour analyser son environnement, identifier des failles et adapter ses attaques. Contrairement aux cybermenaces classiques, ce virus ne dépend pas d’API externes, ce qui le rend plus difficile à détecter ou à bloquer par les fournisseurs de cloud.

Les chercheurs, affiliés à l’Université de Toronto, au Vector Institute, à l’Université de Cambridge et à ServiceNow, soulignent que cette preuve de concept valide la menace des adversaires génératifs autonomes. Leur approche repose sur un harnais personnalisé doté de fonctions dédiées à la découverte réseau, l’exploitation de vulnérabilités et l’escalade de privilèges. Le système utilise un graphe de raisonnement pour structurer les étapes de l’agent, limitant la croissance du contexte aux informations pertinentes pour chaque sous-objectif. Les nœuds spécialisés, comme Plan ou Judge, permettent au virus de planifier et d’évaluer ses actions de manière ciblée.

Le prototype, exécuté sur un seul GPU A100 avec 80 Go de VRAM, illustre une capacité à identifier des vulnérabilités, exploiter des failles et se répliquer sans intervention humaine. Les auteurs insistent sur la nécessité de se préparer à des menaces où des agents IA pourraient agir de manière indépendante, en exploitant des ressources informatiques compromises pour étendre leur portée.