Mistral publie Leanstral 1.5, un modèle open source optimisé pour la vérification formelle

Mistral AI annonce la sortie de Leanstral 1.5, un modèle open source conçu pour renforcer les capacités de vérification formelle en Lean 4.

Leanstral 1.5 est distribué sous licence Apache 2.0 et affiche une architecture de 119 milliards de paramètres au total, dont seulement 6 milliards sont activés lors de l'inférence. Cette configuration vise à optimiser l'efficacité tout en maintenant des performances élevées sur des tâches complexes. Le modèle se distingue par sa capacité à saturer le benchmark miniF2F, résoudre 587 des 672 problèmes du PutnamBench, et atteindre des scores de 87 % sur FATE-H et 34 % sur FATE-X. Ces résultats positionnent Leanstral 1.5 comme un outil performant pour l'ingénierie de preuves formelles et la vérification de code en temps réel.

Le modèle a été entraîné via une combinaison de techniques incluant le mid-training, le supervised fine-tuning et l'apprentissage par renforcement avec CISPO. Ces méthodes lui permettent d'exceller dans des scénarios d'agents autonomes dédiés à l'ingénierie de preuves, ainsi que dans la détection de bugs dans des dépôts de code. Lors de tests sur 57 repositories, Leanstral 1.5 a identifié cinq bugs auparavant inconnus. Disponible gratuitement via Hugging Face et une API dédiée, il s'intègre directement dans des workflows existants pour des applications pratiques en Lean 4.