Import AI détaille PostTrainBench et 23 propositions pour encadrer l'automatisation de la R&D en IA

Un think tank publie 23 idées pour gérer les risques liés à l’automatisation croissante de la recherche en IA, tandis qu’Import AI présente PostTrainBench+, un outil d’évaluation des modèles post-entraînement.

Le think tank IFP (Institute for Progress) a publié une série de 23 recommandations regroupées en sept catégories, destinées à aider les décideurs politiques à anticiper les risques liés à l’automatisation de la R&D en IA. Ces propositions visent à accélérer la diffusion des capacités d’IA, à renforcer la sécurité des modèles et à améliorer la résilience sociétale. Parmi les axes proposés figurent l’amélioration de la transparence dans la R&D automatisée, le développement de stratégies de gestion des risques, et l’investissement dans des technologies de vérification des modèles. L’objectif affiché est de permettre aux États, notamment aux États-Unis, de disposer de davantage de leviers pour encadrer l’évolution des systèmes puissants.

Parallèlement, Import AI met en avant PostTrainBench+, un outil présenté comme une extension de PostTrainBench, conçu pour évaluer les performances des modèles d’IA après leur phase d’entraînement. Bien que les détails techniques sur PostTrainBench+ ne soient pas précisés dans la source, l’outil s’inscrit dans une démarche visant à mieux comprendre les capacités des modèles une fois déployés. Import AI souligne également l’importance de la confiance et de la transparence dans un contexte de compétition entre entreprises développant des systèmes d’IA avancés, évoquant des analyses en théorie des jeux suggérant la possibilité de ralentissements coordonnés.

L’initiative de l’IFP s’inscrit dans un débat plus large sur la gouvernance de l’IA, où l’absence de mécanismes de freinage ou de systèmes de mesure fiables est souvent pointée comme un risque. Les propositions formulées visent à combler ces lacunes en introduisant des « pédales et des capteurs » métaphoriques pour l’industrie de l’IA, permettant ainsi une meilleure maîtrise des dynamiques de développement.