La plupart des pilotes IA en entreprise échouent parce que l’organisation et ses données n’y ont jamais été préparées, et non parce que le modèle sous-jacent est faible. Le chiffre le plus cité de 2025 en révèle l’ampleur : dans son rapport The GenAI Divide: State of AI in Business 2025, le projet NANDA du MIT a trouvé qu’environ 95% des pilotes d’IA générative en entreprise n’ont produit aucun impact mesurable sur le résultat (MIT NANDA, 2025). Comprendre pourquoi, c’est la différence entre une démo qui impressionne et un système qui se rembourse.
L’échec se situe en amont du modèle
Les modèles de langage modernes sont capables. Ce qui casse, c’est tout ce dont ils dépendent. Trois modes d’échec reviennent.
Des entrées désordonnées. Le savoir d’entreprise est massivement non structuré et éparpillé : documents dupliqués entre outils, versions obsolètes jamais retirées, aucun étiquetage cohérent. Une IA qui répond à partir de ce corpus récupère et répète avec assurance la mauvaise version. Le problème n’est pas nouveau ; le Global Institute de McKinsey estimait il y a plus d’une décennie que les travailleurs du savoir passaient déjà environ 1,8 heure par jour, près d’un cinquième de la semaine, simplement à chercher et rassembler de l’information (Chui et al., 2012). Pointer un modèle vers ce chaos automatise le chaos.
Aucune couche de retrieval. Sans mécanisme pour ancrer les réponses dans les documents réels de l’entreprise, un modèle génère à partir de sa distribution d’entraînement et comble les vides par une invention plausible. Cette invention, c’est ce dont tout le monde se souvient comme « la démo qui a halluciné devant un client ». Le correctif, la génération augmentée par récupération, est bien établi dans la littérature (Lewis et al., 2020), mais il doit être construit, pas présumé.
Aucune gouvernance. Pas de règles d’accès, pas de contrôle de ce que l’IA a le droit de dire, pas de suivi après le lancement. Un pilote qui fonctionne au jour un dérive quand les données, les utilisateurs et les modèles eux-mêmes évoluent.
La « fracture GenAI »
L’analyse de MIT NANDA (2025) est utile précisément parce qu’elle sépare les gagnants du reste. Les organisations qui captaient de la valeur n’étaient pas celles aux plus gros modèles ou budgets ; elles intégraient l’IA dans un flux de travail spécifique et bien défini et bâtissaient les boucles de données et de rétroaction autour. La majorité en échec traitait le modèle comme le produit et sautait le travail ingrat en dessous. Le rapport qualifie cet écart de « fracture » : un petit groupe franchit le seuil des retours mesurables tandis que la plupart calent au stade du pilote.
Des données propres d’abord, puis l’IA
La conséquence pratique est une séquence, pas un raccourci. Avant qu’un modèle soit utile sur votre propre savoir, cinq choses doivent être vraies : le patrimoine est classé (une taxonomie et un modèle d’accès), nettoyé (fichiers redondants, obsolètes et triviaux retirés), structuré (documents transformés en données récupérables), relié (les outils pertinents intégrés) et gouverné (garde-fous et surveillance en place). Ce n’est qu’ensuite qu’une couche de retrieval ou d’assistant devient fiable. Nous expliquons le mécanisme de retrieval lui-même en clair dans Qu’est-ce que le RAG.
À quoi ressemble « prêt »
Un test utile : avant de mesurer le modèle, demandez-vous si vous mesurez bien le modèle. Un pilote lancé sur un corpus non classé, dupliqué et non gouverné mesure le corpus. Remettez les entrées en ordre, et le même modèle qui a « échoué » réussit souvent, parce que la contrainte n’a jamais été son raisonnement ; c’était le matériel sur lequel il devait raisonner.
Cette séquence est le cœur de notre travail Knowledge Systems : nous remettons d’abord l’intérieur en ordre, bâtissons les systèmes par-dessus, et les surveillons après le lancement pour que la fiabilité tienne quand vos données et les modèles évoluent.
Références
Chui, M., Manyika, J., Bughin, J., Dobbs, R., Roxburgh, C., Sarrazin, H., Sands, G., & Westergren, M. (2012). The social economy: Unlocking value and productivity through social technologies. McKinsey Global Institute. https://www.mckinsey.com/industries/technology-media-and-telecommunications/our-insights/the-social-economy
Lewis, P., Perez, E., Piktus, A., Petroni, F., Karpukhin, V., Goyal, N., Küttler, H., Lewis, M., Yih, W., Rocktäschel, T., Riedel, S., & Kiela, D. (2020). Retrieval-augmented generation for knowledge-intensive NLP tasks. Advances in Neural Information Processing Systems, 33, 9459–9474. https://arxiv.org/abs/2005.11401
MIT NANDA. (2025). The GenAI divide: State of AI in business 2025 [Rapport]. MIT Media Lab, Project NANDA. https://www.media.mit.edu/groups/nanda/overview/