IA Gen : pourquoi 95 % des entreprises n'ont aucun ROI et 5 % gagnent des millions

C'est la question du moment dans les entreprises concernant les coûts de l'IA. Quels gains tirer de l'utilisation de l'IA Gen ? Une minorité déclare gagner des millions alors que la majorité n'en tirent aucun bénéfice. Ce décalage intitulé « GenIA Divid » a été analysé par les auteurs de la dernière étude menée par l'Institut technologique américain de référence, le MIT (Massachusetts Institute of Technology). Détails.

Une étude récente du MIT*, menée par les chercheurs Aditya Challapally, Chris Pease, Ramesh Raskar et Pradyumna Chari dans le cadre du Project NANDA, révèle un paradoxe qui interroge. 95 % des entreprises ne tirent aucun bénéfice mesurable de leurs investissements en IA générative, tandis qu'une infime minorité (5 %) en retire des gains se chiffrant en millions de dollars. Les auteurs tentent d'expliquer pourquoi ces organisations qui testent activement ces technologies avec des dépenses estimées entre 30 et 40 milliards de dollars en 2025, n'en tirent aucun résultat mesurable.

Un effet « GenAI Divid »

Cette fracture de la valeur que les chercheurs nomment la « GenAI Divid » s'explique par une accumulation d'erreurs stratégiques, technologiques et organisationnelles. Pour parvenir à ces conclusions, les auteurs ont croisé l'analyse de plus de 300 initiatives publiques en IA, 52 entretiens approfondis avec des responsables d'entreprise et un sondage auprès de 153 cadres supérieurs lors de quatre conférences majeures entre janvier et juin 2025. Résultat ? Malgré l'engouement, la plupart des entreprises se sabotent elles-mêmes, transformant l'IA générative en coût plutôt qu'en levier de performance.

3 choix techno en « erreur »

L'étude de l'Institut technologique de référence américain met en exergue trois choix technologiques qui condamneraient les projets dès leur lancement, et expliquent pourquoi les outils d'IA générative peinent à délivrer leurs promesses.

Le premier serait dû au learnig cap. Les auteurs de l'étude expliquent que les solutions actuelles en IA Gen n'intègreraient pas le « contexte métier ». Une avocate interrogée explique utiliser ChatGPT pour des ébauches de contrats, mais l'abandonne pour les négociations, car l'outil ne mémorise ni les préférences clients ni les corrections antérieures. Conséquence : 90 % des cas d'usage critiques (négociation, prise de décision) sont délaissés au profit de tâches basiques (rédaction de brouillons, résumés). Pour les auteurs du MIT, la solution réside dans les systèmes dits « apprenants » (agents autonomes dotés de mémoire persistante via Memory-Centric Processing, ou MCP), vers lesquels les géants du secteur se tournent désormais en urgence.

Le second est le « piège » des solutions génériques. Beaucoup d'entreprises déploient des wrappers de ChatGPT - des versions repackagées, non adaptées à leurs workflows. Résultats : 60 % des solutions « enterprise-grade » (sécurisées, robustes, conçues pour les professionnels) échouent dès la phase pilote.

Dernier point, l'absence de spécialisation sectorielle. Contrairement aux discours marketing, l'IA générative ne révolutionne que deux secteurs sur neuf (technologie et médias). Dans la santé, l'énergie ou l'industrie, son impact se limite souvent à des gains marginaux (ex. : accélération de certains processus contractuels).

Des biais d'investissement

Pour les auteurs, le principal frein réside dans un biais d'investissement contre-productif. Près de 50 % des budgets GenAI sont consacrés au marketing et aux ventes (génération d'emails, scoring de leads), alors que les plus forts ROI proviennent du back-office (opérations, finance, conformité). Pourtant, ces fonctions - où l'automatisation peut réduire des coûts massifs - restent sous-exploitées, pointe l'étude.

Autre frein, le mythe du « fait maison ». Les entreprises se confortent dans l'idée qu'elles peuvent faire des développements internes. Ces derniers affichent un taux de succès de 33 %, contre 67 % pour les partenariats externes. Les causes ? Un réel manque d'expertise métier dans les équipes techniques et des coûts cachés (maintenance, dette technique) qui alourdissent la facture sans garantie de résultat.

Sans oublier la prolifération de « projets pilotes » sans lendemains. Les entreprises lancent trop de projets pilotes simultanés, sans stratégie de passage à l'échelle, assurent les auteurs. Au final, 95 % de ces initiatives échouent faute de cadrage clair sans compter des délais de déploiement qui explosent, avec 90 jours pour une PME, contre 9 mois ou plus pour un grand groupe, épuisant les équipes et gaspillant les ressources.

Gouvernance, culture et responsabilité : les angles morts

Deux problèmes systémiques aggravent la situation selon les auteurs. Le « shadow AI » et ses risques cachés. 90 % des employés utilisent des outils grand public (ChatGPT, Le Chat) pour contourner les solutions officielles, jugées trop lentes alors que 40 % des entreprises ont pourtant souscrit à des abonnements LLM professionnels... qui restent inutilisés. Conséquences : une perte de contrôle sur les données, risques de sécurité, et invisibilité des vrais besoins des équipes.

Autre blocage : l'absence des fonctions métiers dans la boucle. Les projets sont trop souvent portés par les équipes IT ou innovation, sans implication des opérationnels (juridique, service client, production, finances). Or, les déploiements réussis sont ceux initiés par les métiers, avec un soutien fort de la direction. Une autre variable à ne pas négliger, l'absence de métriques claires. Sans KPI définis, ni responsable désigné, les initiatives s'essoufflent, faute de preuve tangible de leur utilité.

Comment réussissent les 5 % ?

Les 5 % d'entreprises qui captent une valeur significative (plusieurs millions de dollars) ont adopté une approche radicalement différente, décrit l'étude. Elles ont privilégié l'achat à la construction, notamment en stoppant les développements internes coûteux et ont misé sur des partenariats externes (éditeurs spécialisés) pour gagner en agilité et pertinence.

Ces entreprises ont également ciblé les utilisateurs du back-office (finance, opérations, compliance), où les gains sont mesurables et immédiats (réduction des coûts, suppression des tâches répétitives). Ce sont des organisations qui ont su écouter les utilisateurs en misant sur le « shadow AI », et elles ont analysé les outils utilisés en catimini par les équipes, révélant leurs vrais besoins.

Dans leur stratégie, ces organisations ont assigné un responsable par projet, avec des KPI business concrets (ex. : réduction de 20 % du temps passé sur les rapports financiers), et ont limité le nombre de pilotes pour concentrer les efforts sur les cas d'usage à fort impact.

Les auteurs concluent que le « GenAI Divid » n'est pas une fatalité. Les 5 % d'entreprises qui en tirent parti ont compris que l'IA générative n'était pas une révolution en soi, mais un amplificateur de processus existants. « La technologie n'est pas le problème. Le problème, c'est l'absence de stratégie claire et d'alignement entre technologie et besoins métiers », souligne l'étude.

* Source : MIT Technology Review, « STATE OF AI IN BUSINESS 2025 »