Au-delà de LoRA : les nouvelles techniques de fine-tuning des modèles IA

Hugging Face publie une analyse comparative des méthodes de fine-tuning alternatives à LoRA, la technique dominante pour adapter les modèles d'IA. Leur étude explore des approches comme DoRA (Weight-Decomposed Low-Rank Adaptation), qui décompose les poids en composantes directionnelles et magnitudes, ou encore AdaLoRA, une version adaptative de LoRA ajustant dynamiquement le rang des matrices. Ces méthodes visent à réduire la mémoire utilisée tout en maintenant ou améliorant les performances.

L’article souligne que LoRA, bien que efficace, présente des limites : sa structure fixe peut entraîner une sur-paramétrisation ou une sous-optimisation selon les cas d’usage. Les alternatives testées, comme DoRA, montrent des gains en précision sur des benchmarks standardisés, notamment pour les modèles de langage de grande taille. Hugging Face met en avant leur implémentation dans la bibliothèque PEFT (Parameter-Efficient Fine-Tuning), qui centralise ces techniques pour faciliter leur adoption.

Les résultats indiquent que ces nouvelles méthodes pourraient remplacer LoRA dans certains scénarios, notamment lorsque la taille du modèle ou les ressources disponibles imposent des contraintes strictes. Les tests incluent des évaluations sur des tâches de compréhension de texte et de génération, avec des métriques comparables à celles de LoRA, voire supérieures dans certains cas.