L'industrie de l'IA s'oppose à des restrictions larges sur les modèles open-weight

Plusieurs acteurs majeurs de l'IA, dont Nvidia, Mistral, Meta et Microsoft, ont signé une lettre ouverte pour alerter contre des restrictions trop larges sur les modèles open-weight dans le cadre de la réponse américaine aux tensions géopolitiques liées à l'IA chinoise.

Cette initiative intervient alors que Washington examine comment réagir aux allégations selon lesquelles des laboratoires chinois d'IA auraient volé des propriétés intellectuelles à leurs homologues américains. La lettre ne mentionne pas directement la Chine, mais elle suit des rapports indiquant que l'administration Trump envisageait d'interdire les modèles open-weight chinois et d'éventuellement sanctionner des entreprises du pays. La Maison Blanche a notamment accusé Moonshot AI d'avoir utilisé la technique de distillation sur le modèle Fable d'Anthropic pour entraîner son propre modèle Kimi K3, jugé performant.

Les signataires soulignent que les techniques de développement légitimes, comme la distillation, ne doivent pas être confondues avec des pratiques illégales d'extraction de valeur. Ils rappellent que la distillation est une méthode répandue pour améliorer, évaluer et valider des modèles, ancrée dans la tradition du logiciel open source. Leur argumentaire met en garde contre une approche réglementaire trop large : "Les préoccupations légitimes doivent être traitées par des cadres juridiques ciblés plutôt que par des restrictions globales sur des techniques essentielles à l'innovation en IA."

Leur position s'oppose aussi à l'idée que les modèles open-weight seraient dangereux par nature, en raison de leur accessibilité accrue. Ils estiment que l'accès à des modèles puissants est crucial pour les défenseurs en cybersécurité, qui doivent pouvoir détecter et répondre à des menaces émergentes avec des outils comparables : "Interdire les poids ouverts n'est pas la bonne réponse. Dans un monde où les attaquants utilisent l'IA avancée, les défenseurs ont besoin d'accéder à des modèles de capacités similaires pour simuler et contrer ces menaces." Ils ajoutent que les modèles open-weight favorisent la transparence et permettent de découvrir et corriger des vulnérabilités à grande échelle.