DeepMind propose un organisme indépendant pour encadrer les modèles d'IA avancés

Le PDG de DeepMind, Demis Hassabis, a proposé la création d’un organisme indépendant de standardisation pour réguler les modèles d’IA de pointe, inspiré de l’autorité financière FINRA.

Dans un message publié sur X, Hassabis défend l’idée d’un organisme de standards chargé de superviser les modèles dits frontier, c’est-à-dire les plus avancés. Ce modèle s’inspirerait de la Financial Industry Regulatory Authority (FINRA), une autorité de régulation financière américaine. Selon sa proposition, les laboratoires spécialisés dans ces modèles partageraient volontairement leurs créations avec cet organisme jusqu’à 30 jours avant leur déploiement, afin d’évaluer leur conformité à des protocoles techniques. Hassabis suggère que, si ces protocoles prouvent leur efficacité, leur application pourrait devenir obligatoire pour toute mise sur le marché aux États-Unis. Les laboratoires collaboreraient également avec cet organisme pour identifier et corriger d’éventuelles vulnérabilités post-déploiement.

Ce cadre s’appuierait sur les revues ponctuelles menées par le gouvernement américain, comme celles réalisées sur les modèles Mythos d’Anthropic et Sol d’OpenAI. Ces revues avaient été critiquées pour leur manque d’expertise technique et leur opacité dans les décisions de déploiement. Hassabis propose que ces décisions soient transférées à un nouvel organisme, soutenu par le gouvernement mais financé par l’industrie de l’IA et opérant de manière indépendante. Le régulateur serait composé de représentants de l’open source, d’experts techniques du secteur et de groupes spécialisés dans la sécurité de l’IA, avec la possibilité de sous-traiter certaines évaluations à des organisations spécialisées.

Hassabis souligne que cette approche permettrait de concilier technicité, innovation et responsabilité, tout en s’adaptant rapidement aux risques émergents. Il insiste sur la nécessité d’un mécanisme évolutif, capable de renforcer les exigences en fonction de l’évolution des menaces.