- 01KPMG a retiré un rapport sur l'IA après la découverte d'erreurs générées par des modèles d'IA.
- 02Les hallucinations des outils automatisés ont rendu le contenu inexploitable malgré leur adoption croissante.
- 03Ce cas souligne les risques persistants de fiabilité des IA génératives dans des contextes professionnels.
KPMG a retiré un rapport sur l'utilisation de l'IA après avoir identifié des informations erronées générées par des modèles d'IA, révélant des hallucinations flagrantes. Le document, initialement publié pour analyser les tendances du secteur, contenait des données inexactes, notamment sur des cas d'usage ou des statistiques, rendant son contenu inutilisable. Cette situation illustre les limites persistantes des outils d'IA générative en matière de fiabilité, malgré leur adoption croissante dans les processus décisionnels.
L'incident rappelle des cas similaires où des entreprises ou institutions ont dû corriger ou retirer des publications basées sur des contenus automatisés. Les hallucinations, bien que moins fréquentes avec les modèles récents, restent un risque majeur, en particulier dans des contextes nécessitant une précision absolue. KPMG n'a pas précisé si les erreurs provenaient d'une mauvaise configuration des outils ou d'une utilisation inadaptée des prompts.
Articles liés
Évaluer et fiabiliser un système LLM : évals et garde-fous
« Ça a l'air de marcher » n'est pas une métrique. Comment mesurer la qualité d'un système LLM et le rendre fiable en production.
Probably lève 9 millions de dollars pour développer une IA plus fiable et réduire les hallucinations
La startup Probably a levé 9 millions de dollars pour concevoir une IA capable de réduire drastiquement les hallucinations et les erreurs factuelles. L'objectif est d'atteindre un niveau de précision comparable aux systèmes déterministes, répondant ainsi à un enjeu majeur pour les utilisateurs professionnels.