Vercel plaide pour séparer modèles et agents dans les applications IA en production

Vercel, plateforme d'infrastructure cloud pour déployer des agents sans gérer de serveurs, pousse les entreprises à architecturer différemment leurs systèmes IA en production. Le CEO Guillermo Rauch estime que la séparation entre modèles et agents est devenue critique pour maîtriser les coûts, la sécurité et l'audit des systèmes déployés à grande échelle.

La plateforme traite actuellement 6 millions de déploiements par jour, dont la moitié déclenchés par des agents de code, et plus d'un trillion de tokens transitent quotidiennement par sa passerelle IA. Rauch distingue deux cas d'usage dominants pour les agents : les agents de codage, qui consomment massivement de tokens, et les agents internes qui automatisent les opérations d'une entreprise. Ce second cas révèle des défis spécifiques : comment accéder aux données de façon sécurisée, auditer les actions de l'agent et tracer l'ensemble des appels d'outils et des contrôles d'accès qu'il a utilisés.

Pour y répondre, Vercel a développé deux outils. Eve est un framework permettant de décrire en langage naturel les instructions et compétences d'un agent. Vercel Sandbox isole l'agent dans un environnement contrôlé : il conserve la liberté d'exprimer son intelligence, mais les politiques d'accès aux données et les flux de sortie sont régulés. Rauch souligne que cette isolation prévient un risque majeur : les IDEs de codage (comme Devin ou Cursor) pourraient, mal configurés, s'entraîner sur l'intégralité du code source d'une entreprise — un enjeu critique pour des organisations comme Airbus, qui protègent des décennies de code propriétaire en C++ pour l'aérospatiale.

L'évolution reflète un tournant dans l'industrie : après une phase de prototypage l'année précédente, les équipes passent à la production et découvrent que les agents non contrôlés posent des problèmes concrets de coût, de conformité et de fuite de données. La séparation architecturale entre le modèle (qui génère les décisions) et l'agent (qui exécute les actions) devient donc un élément structurant pour les déploiements d'IA en entreprise.