NVIDIA et Hugging Face publient des données ouvertes pour entraîner les agents IA

NVIDIA et Hugging Face rendent publiques des données d'entraînement destinées à améliorer les performances des agents IA en environnement réel, via la collection Nemotron. L'initiative répond à un problème fondamental : les agents actuels échouent souvent face à des situations non prévues dans les benchmarks, comme une API défaillante ou un workflow inconnu.

Le défi des agents IA dépasse la simple architecture des modèles. Un agent capable de récupérer d'une erreur API ou de gérer un processus jamais rencontré doit disposer de données d'entraînement reflétant ces scénarios réels : traces d'exécution logicielle, gestion des défaillances d'outils, raisonnement multi-étapes, récupération d'informations, sécurité, simulation d'utilisateurs et exécution de workflows. Sans ces données, un modèle reste un simple compléteur de texte avec accès à des outils, non un véritable agent.

NEMOTRON propose une approche en deux volets. D'abord, les données synthétiques jouent un rôle clé : Nemotron-CC enrichit Common Crawl avec du contenu généré, tandis que Nemotron-CC-MATH ajoute des questions mathématiques synthétiques pour améliorer le raisonnement. Nemotron Pretraining couvre un ensemble large incluant données générales, code, mathématiques et synthétiques, sur des trillions de tokens. Ensuite, l'ouverture des données elle-même devient un outil de compréhension : en rendant publics les datasets, les choix de curation et les méthodes d'évaluation, NVIDIA permet aux développeurs d'inspecter et d'expliquer le comportement des agents.

Cette transparence répond à une exigence pratique. Si un modèle appelle des outils, exécute des workflows et interagit avec plusieurs systèmes, les équipes doivent comprendre quelles données ont façonné ces comportements. Les données synthétiques offrent un moyen de préserver les signaux utiles sans exposer les sources propriétaires — ce que NVIDIA décrit comme préserver les « secrets » d'une entreprise (workflows, corpus ou patterns clients) tout en contribuant à l'écosystème public.

L'initiative s'inscrit dans un contexte plus large : près de 145 articles présentés à la conférence ICML citent les modèles et datasets Nemotron, illustrant l'adoption des données ouvertes dans la recherche. NVIDIA justifie cette publication par la nécessité de cultiver un écosystème IA diversifié où entreprises, chercheurs, gouvernements et communautés peuvent contribuer, plutôt que de concentrer l'apprentissage sur un pool étroit de données.