Les LLMs répètent les mêmes réponses : une startup cherche à corriger ce biais

Les modèles de langage souffrent d'un problème de convergence : ils tendent à produire les mêmes réponses de manière répétée, un phénomène que certains qualifient de « groupthink ». Une startup s'attaque directement à cette limitation.

Le problème est observable et reproductible. Lorsqu'on demande à Claude, ChatGPT ou Gemini de générer un nombre aléatoire entre 1 et 10, les réponses suivent des patterns prévisibles : le 7 revient très fréquemment en première réponse, suivi généralement de 3, 4, 8 ou 9 aux demandes suivantes. Ce comportement n'est pas aléatoire—il reflète une tendance structurelle des LLMs à converger vers certaines réponses plutôt que d'explorer véritablement l'espace des possibilités.

Cette répétition systématique pose une question fondamentale sur la diversité et l'indépendance des réponses générées par ces modèles. Au-delà de l'exemple du nombre aléatoire, ce biais affecte potentiellement des cas d'usage où la variété des réponses est souhaitable : brainstorming, génération de contenu créatif, exploration de scénarios multiples. La startup qui s'intéresse à ce problème cherche à modifier le comportement des LLMs pour les sortir de ce « groove » de pensée convergente.

Le défi technique reste à définir précisément : il s'agit de rendre les modèles capables de générer des réponses véritablement diversifiées sans sacrifier leur cohérence ou leur pertinence. Cette initiative s'inscrit dans une réflexion plus large sur les limites actuelles des LLMs et les ajustements nécessaires pour les rendre plus flexibles et imprévisibles lorsque c'est approprié.