IBM Research publie AltK-Evolve-HMM pour calibrer la mémoire des agents IA

IBM Research publie AltK-Evolve-HMM, une méthode conçue pour optimiser la quantité de mémoire nécessaire aux agents IA. Contrairement à une approche universelle, cette technique repose sur un principe de dosage adapté à la capacité du modèle.

L’article de IBM Research, publié sur le blog de Hugging Face, démontre que la quantité de mémoire à injecter dans un agent IA ne dépend pas d’une règle fixe, mais de la puissance et de la saturation du modèle. Trois profils se dégagent : les modèles puissants avec une marge de progression bénéficient d’un ensemble complet de directives auto-distillées, tandis que les modèles plus petits ou moins performants voient leurs performances stagner ou se dégrader si la mémoire est trop abondante. Enfin, les modèles déjà saturés n’obtiennent aucun gain supplémentaire, quelle que soit la quantité de mémoire ajoutée.

Les résultats sont issus d’une évaluation menée sur huit modèles, allant d’un modèle dense de 30 milliards de paramètres à des systèmes propriétaires de pointe. Pour les modèles forts comme DeepSeek-V3.2 (671 milliards de paramètres, MoE), l’injection de l’intégralité des directives auto-distillées améliore de 9,5 points de pourcentage le taux de réussite des tâches. À l’inverse, pour des modèles comme gpt-oss-120b (117 milliards de paramètres, MoE), une approche sélective — combinant un noyau réduit de directives de haute confiance et une récupération ciblée par tâche — permet un gain de 16,1 points de pourcentage, tout en limitant l’augmentation des tokens à seulement 5 %. L’utilisation d’un cache de prompts réduit encore les coûts en production, même pour les ensembles complets de directives.

L’étude souligne que la mémoire agentique n’est pas une fonctionnalité binaire, mais un paramètre à calibrer. Les directives auto-distillées, bien que générées sans mise à jour des poids ni annotation humaine, doivent être adaptées au profil du modèle pour éviter un gaspillage de ressources ou une baisse de performance. Cette approche remet en cause l’idée selon laquelle plus de mémoire équivaut systématiquement à de meilleurs résultats.