IBM Research propose AltK-Evolve-SLDD pour réduire les coûts d'entraînement des LLMs

IBM Research annonce AltK-Evolve-SLDD, une méthode conçue pour optimiser l'entraînement des modèles de langage de grande taille (LLMs) en réduisant le nombre de tokens nécessaires. Cette approche s'appuie sur une mémoire agentique qui exploite les trajectoires passées d'un agent pour améliorer ses performances sans modifier les poids du modèle ni recourir à des annotations humaines.

L'innovation centrale réside dans la manière dont les leçons tirées des échecs ou des succès d'un agent sont stockées et restituées. Contrairement à des méthodes comme ACE (Agentic Context Engineering) qui organisent ces leçons dans un playbook évolutif, AltK-Evolve-SLDD les consolide sous forme de guidelines individuelles et récupérables. Chaque guideline conserve un compteur de support, indiquant le nombre d'épisodes indépendants ayant contribué à sa création. Cette granularité permet d'éviter la perte d'informations liée à la compression ou à la synthèse excessive, deux écueils identifiés par les deux systèmes.

Les deux méthodes partagent une même philosophie : refuser de compresser les leçons pour préserver leur richesse. ACE et AltK-Evolve-SLDD évitent ainsi le brevity bias (optimisation vers des instructions génériques et courtes) et le context collapse (perte de détails lors de la réécriture du contexte). Leur divergence porte sur la livraison des leçons. ACE utilise un playbook détaillé avec des compteurs d'utilité pour chaque instruction, tandis qu'AltK-Evolve-SLDD propose des guidelines distinctes, chacune associée à un compteur de support. Cette différence se traduit par une réduction du nombre de tokens nécessaires lors de l'inférence, selon les auteurs.