Mistral publie Shieldstral, un classifieur de sécurité multimodal open weights de 3 milliards de paramètres

Mistral AI annonce Shieldstral, un classifieur de sécurité multimodal open weights de 3 milliards de paramètres conçu pour évaluer la sécurité des contenus textuels et visuels en temps réel.

Ce modèle se distingue par sa capacité à intégrer des politiques de modération exprimées en langage naturel lors de l'inférence, sans nécessiter de réentraînement. Contrairement aux approches traditionnelles, Shieldstral reformule la modération de contenu comme une tâche de question-réponse adaptative aux politiques définies par l'utilisateur. Il permet ainsi d'évaluer la sécurité d'un contenu en fonction de critères spécifiques, comme la promotion de violences envers un groupe protégé ou l'adéquation d'une image pour un public mineur.

Shieldstral est publié sous licence Apache 2.0 et affiche des performances comparables à des modèles jusqu'à sept fois plus grands sur des benchmarks de sécurité textuelle. Il établit également un nouvel état de l'art en modération multimodale, tout en restant optimisé pour une exécution sur une seule carte GPU NVIDIA de 16 Go. Cette efficacité en fait un outil accessible pour les développeurs souhaitant intégrer des garde-fous de sécurité dans leurs applications sans alourdir leur infrastructure.