Import AI publie 23 propositions pour évaluer les risques de l'automatisation de la R&D en IA et lance PostTrainBench+

Import AI publie un ensemble de 23 recommandations pour encadrer l’automatisation croissante de la recherche et développement en intelligence artificielle (R&D IA). Ces propositions, formulées par le think tank IFP, visent à renforcer la capacité des États à anticiper et gérer les risques liés à l’accélération des systèmes automatisés en IA.

Les 23 idées s’articulent autour de sept axes principaux, notamment l’amélioration de la transparence dans les processus automatisés de R&D IA, le renforcement des capacités des États à comprendre et répondre à ces dynamiques, et la mise en place de stratégies de gestion des risques. Parmi les objectifs affichés figure l’accélération de la diffusion des capacités d’IA via l’allocation de ressources vers l’inférence et le développement d’applications, ainsi que l’investissement dans des technologies de vérification et de résilience des systèmes.

L’initiative s’inscrit dans un contexte où l’absence de mécanismes de contrôle ou de mesure adaptés expose le secteur à des risques systémiques. Les auteurs comparent la situation actuelle à un véhicule sans pédale de frein ni système de télémétrie, soulignant la nécessité de développer des outils pour évaluer et réguler les avancées en IA. Ces propositions pourraient permettre aux pays, notamment les États-Unis, de disposer de leviers supplémentaires pour gérer l’automatisation de la R&D IA.

Par ailleurs, Import AI annonce le lancement de PostTrainBench+, un outil de benchmarking conçu pour évaluer les performances des modèles d’IA après leur phase d’entraînement. Ce nouvel outil s’ajoute aux efforts visant à améliorer la compréhension et le contrôle des systèmes automatisés en IA.

Des chercheurs du MIT et de Columbia ont également analysé, dans une étude parallèle, les conditions nécessaires pour qu’une coordination entre entreprises concurrentes puisse mener à un ralentissement volontaire des développements en IA. Leur analyse met en lumière l’importance de la confiance et de la transparence dans les dynamiques de compétition entre acteurs du secteur.