- 01Le think tank IFP publie 23 recommandations pour encadrer l’automatisation de la R&D en IA, organisées en sept axes stratégiques.
- 02PostTrainBench+ est un nouvel outil de benchmarking annoncé pour évaluer les performances des modèles d’IA après leur entraînement.
- 03Des chercheurs du MIT et Columbia étudient les conditions d’un ralentissement coordonné entre entreprises concurrentes, en soulignant le rôle de la confiance et de la transparence.
Import AI publie un ensemble de 23 recommandations pour encadrer l’automatisation croissante de la recherche et développement en intelligence artificielle (R&D IA). Ces propositions, formulées par le think tank IFP, visent à renforcer la capacité des États à anticiper et gérer les risques liés à l’accélération des systèmes automatisés en IA.
Les 23 idées s’articulent autour de sept axes principaux, notamment l’amélioration de la transparence dans les processus automatisés de R&D IA, le renforcement des capacités des États à comprendre et répondre à ces dynamiques, et la mise en place de stratégies de gestion des risques. Parmi les objectifs affichés figure l’accélération de la diffusion des capacités d’IA via l’allocation de ressources vers l’inférence et le développement d’applications, ainsi que l’investissement dans des technologies de vérification et de résilience des systèmes.
L’initiative s’inscrit dans un contexte où l’absence de mécanismes de contrôle ou de mesure adaptés expose le secteur à des risques systémiques. Les auteurs comparent la situation actuelle à un véhicule sans pédale de frein ni système de télémétrie, soulignant la nécessité de développer des outils pour évaluer et réguler les avancées en IA. Ces propositions pourraient permettre aux pays, notamment les États-Unis, de disposer de leviers supplémentaires pour gérer l’automatisation de la R&D IA.
Par ailleurs, Import AI annonce le lancement de PostTrainBench+, un outil de benchmarking conçu pour évaluer les performances des modèles d’IA après leur phase d’entraînement. Ce nouvel outil s’ajoute aux efforts visant à améliorer la compréhension et le contrôle des systèmes automatisés en IA.
Des chercheurs du MIT et de Columbia ont également analysé, dans une étude parallèle, les conditions nécessaires pour qu’une coordination entre entreprises concurrentes puisse mener à un ralentissement volontaire des développements en IA. Leur analyse met en lumière l’importance de la confiance et de la transparence dans les dynamiques de compétition entre acteurs du secteur.
Articles liés
AllenAI dévoile BenchMIRT pour disséquer les signaux des benchmarks des LLM
AllenAI propose BenchMIRT pour analyser la pertinence des benchmarks des grands modèles de langage.
Import AI détaille PostTrainBench et 23 propositions pour encadrer l'automatisation de la R&D en IA
Import AI analyse des outils comme PostTrainBench et des concepts comme les RSI dans le paysage concurrentiel de l'IA.
Import AI 467 explore les virus IA autonomes et les limites de la créativité artificielle
Une newsletter analyse les risques des systèmes IA autonomes et les débats autour de la créativité artificielle.