Shieldstral : un classifieur multimodal open source de 3 milliards de paramètres pour la modération de contenu

Mistral AI annonce Shieldstral, un classifieur de sécurité multimodal open source de 3 milliards de paramètres conçu pour évaluer les contenus à risque. Contrairement aux modèles traditionnels, il permet de définir des politiques de modération directement sous forme de questions-réponses en langage naturel au moment de l'inférence, sans nécessiter de reformation.

La particularité de Shieldstral réside dans son approche policy-adaptive : il accepte des consignes de sécurité personnalisées en entrée, ce qui évite de devoir adapter le modèle à chaque nouveau contexte d'utilisation. Cette flexibilité s'applique aussi bien aux contenus textuels qu'aux images, unifiant ainsi l'évaluation de la sécurité multimodale. Le modèle est publié sous licence Apache 2.0 et affiche des performances comparables à des modèles jusqu'à sept fois plus grands sur des benchmarks de sécurité textuelle, tout en restant exécutable sur une seule carte GPU NVIDIA de 16 Go.

Shieldstral se distingue des solutions existantes en ne s'appuyant pas sur une taxonomie fixe de catégories de risques intégrée dans ses poids. La plupart des modèles de garde-fou actuels imposent une taxonomie prédéfinie, ce qui oblige à les reconditionner pour chaque nouveau cas d'usage. Avec Shieldstral, les politiques de modération peuvent être ajustées dynamiquement selon le produit, le public cible ou le contexte, sans modification du modèle sous-jacent.