Recherche

DossierSur le chemin de l'IA- [Podcast inclus]

Toute la difficulté avec l'IA est de parvenir à la cerner. Quelle application en faire au sein d'une direction financière ? À quel acteur, start-up ou grand éditeur, faire appel ? Quel schéma directeur mettre en place ? Le jeu en vaut-il la chandelle ? Autant d'interrogations auxquelles nous tentons de répondre à travers différents éclairages et témoignages.

Publié par Agathe Cathala le
Lecture
23 min
  • Imprimer
Sur le chemin de l'IA- [Podcast inclus]

1 Retrouvez le podcast du dossier

Ecoutez ci-dessous

Si vous n'avez pas le temps de lire le dossier dans son intégralité tout de suite, écoutez la synthèse audio qui reprend les principaux enseignements de l'enquête.

2 Comment adopter l'IA ?

L'intelligence artificielle (IA) est aujourd'hui sur toutes les lèvres. Il ne se passe pas un jour sans qu'un article ou une étude en parle, tous les éditeurs se vantent d'en avoir intégré dans leurs outils... Qu'en est-il du côté des entreprises ? Si elles doivent s'y intéresser pour les performances que l'intelligence artificielle peut leur procurer, elles ne savent pas toujours comment s'y prendre. Une étude menée par EY en 2018 révèle que si 60% des entreprises ont lancé des expérimentations dans le domaine de l'intelligence artificielle, seulement 28% ont fait de ces expérimentations quelque chose d'opérationnel et uniquement 4% les ont élargies à différents domaines.

"Pour passer de l'expérimentation à une application opérationnelle, il faut compter de 6 à 18 mois, tandis que le passage du concret à un déploiement plus important exige 3 à 5 ans", précise Arnaud Laroche, associé EY. Ainsi, ces chiffres illustrent parfaitement deux aspects : d'une part, l'adoption de l'intelligence artificielle n'est pas simple ; d'autre part, il convient de se conformer à une méthodologie rigoureuse si l'on ne veut pas pas lancer des expérimentations qui ne débouchent sur aucun résultat.

3 Des cas d'usage pragmatiques

La première étape, incontournable, consiste à définir sa stratégie. Dans son Guide pratique de l'intelligence artificielle dans l'entreprise, Stéphane Roder, fondateur d'AI Builders, une société de conseil en intelligence artificielle, souligne l'importance de fixer un schéma directeur, qui fasse apparaître les différents cas d'usage, la faisabilité, le ROI attendu et les solutions et/ou compétences nécessaires. "Cela a l'avantage de structurer la démarche, de ne pas se laisser tenter par la mode, mais d'être guidé par la performance. Cela permet aussi de donner une vue globale à la direction générale et aux managers pour leur faire prendre conscience des enjeux", explique Stéphane Roder.

En ce qui concerne le choix des cas d'usage à soumettre à l'intelligence artificielle, Alice Kuster, consultante mc²i Groupe, invite à commencer par des projets dans lesquels l'humain a peu de valeur ajoutée, par des tâches répétitives et chronophages. De son côté, Stéphane Roder (AI Builders) conseille, dans un premier temps, de chercher à résoudre les problèmes business, autrement dit ce qui coûte cher en gestion.

Quoi qu'il en soit, Jean-David Benassouli, associé PwC en charge des activités data analytics et intelligence artificielle, recommande, quant à lui, de rester très pragmatique : "Il s'agit, pour cela, de réunir autour de la table des personnes d'horizons très différents, des métiers de l'informatique, du marketing, des ventes..." Sur ce point, il n'est pas contredit par Stéphane Roder, qui, dans son livre, fait valoir à quel point un projet d'intelligence artificielle doit être pluridisciplinaire afin de conduire des projets pertinents, de qualité, et pérennes dans l'organisation et ses systèmes. "Les métiers énoncent leurs besoins, et l'I T identifie les solutions et les tâches automatisables", pointe, pour sa part, Alice Kuster (mc2i).

4 Un chef de projet formé

Un chef de projet doit être nommé pour mener à bien celui-ci. "Il s'agit généralement d'un chief data officer. Il n'est pas obligatoire de le recruter, car il peut être difficile pour des petites entreprises d'attirer et de garder ces talents. Mais une personne en interne doit obligatoirement suivre ce sujet, épaulée si elle veut par des prestataires", indique Jean-David Benassouli (PwC). Il préconise, par ailleurs, que cette personne soit en lien direct avec le Codir, pour un maximum d'impact.

Ce chef de projet, en général issu de la DSI, devra, en outre, bénéficier d'une formation spécifique. L'IA est donc aussi un sujet de formation, pour instruire le responsable de projet, mais aussi acculturer les différentes parties prenantes. Pour Cédric Vasseur, spécialiste des nouvelles technologies liées à la robotique et à l'IA, et formateur sur le sujet chez Orsys, un projet d'IA est un projet comme un autre, à condition de savoir de quoi on parle. "Il y a un vocabulaire spécifique à connaître afin de dialoguer de manière professionnelle avec les différentes parties prenantes", précise-t-il.

Quel rôle doit jouer le Daf ?

La direction financière s'avère essentielle dans la mise en place d'un projet d'intelligence artificielle. Ne serait-ce que dans la réflexion autour du ROI. "Beaucoup d'entreprises ont investi sans que ces investissements répondent à leurs attentes", observe Jean-David Benassouli (PwC France). La finance peut donc jouer ce rôle de garde-fou. "La finance peut aider à définir les critères de mesure du ROI de l'intelligence artificielle, dont la performance est souvent quantifiable", avance Romain Lamotte (KPMG).

Et une fois l'intelligence artificielle adoptée de manière opérationnelle, le Daf peut ensuite aider à la contrôler. "Un cadre de contrôle de l'intelligence artificielle doit être construit : recensement des utilisations de l'intelligence artificielle en interne, revue de qualité des modèles, analyse de performance, gouvernance et accessibilité du code... C'est l'une des évolutions prévisibles de l'audit interne", estime Romain Lamotte.

5 Quel prestataire choisir ?

Cette formation est d'autant plus importante que l'entreprise travaille souvent avec des prestataires externes sur ce sujet. Et qu'il ne faut pas se tromper en les choisissant. Stéphane Roder suggère de challenger les différents éditeurs sur le marché. "Il y a encore trop peu de benchmarks réalisés sur cette industrie", regrette-t-il. Il incite à regarder les performances de chaque produit. Mais vu le nombre important d'acteurs, lesquels consulter ? Pour Alice Kuster, l'identification des besoins doit orienter le choix : "Si les besoins sont bien définis, la solution choisie est plus spécifique, correspond mieux et s'intègre bien."

Arnaud Laroche (EY) exhorte les plus petites structures à se tourner vers de grands acteurs connus : "Choisir un grand acteur est souvent plus simple, car les start-up sont nombreuses, leur avenir est incertain, et il est souvent difficile de faire la part des choses : aujourd'hui, la moindre innovation est appelée IA."

Mais il reconnaît que travailler avec un grand acteur a aussi des inconvénients : "On se donne à eux entièrement tout de suite." Pour Romain Lamotte (KPMG), l'IA n'est "pas quelque chose qui s'achète mais qui se construit. Nous ne croyons pas aux solutions sur étagères. L'entreprise a souvent assez de données, les algorithmes sont libres de droit pour la plupart ... L'éditeur ne peut aider que dans la manière d'assembler cela." D'où la nécessité d'avoir en interne les compétences nécessaires. "Dans ces projets, c'est la compétence qui coûte cher, pas nécessairement la technologie", conclut Ahmed Dib, consultant mc²i Groupe.

Lire la suite :

Si l'intelligence artificielle peut apporter un véritable plus aux entreprises, ces dernières ne doivent pas non plus céder aux sirènes des éditeurs et intégrateurs. Adopter un outil d'intelligence artificielle doit se faire de manière réfléchie, en étudiant les besoins de l'entreprise.

6 La technologie redessine la chaîne de valeur finance

Aucune organisation ne peut se dispenser de moderniser son fonctionnement et d'intégrer davantage de technologie. "On se dirige droit vers une hyperconnectivité des organisations, qui permettra la convergence entre la donnée, les process et l'humain", estimait Karine Picard, VP business development EMEA applications chez Oracle, lors de la matinale Oracle Modern Finance Experience organisée par l'éditeur. Mais avant d'en arriver là, il faut passer par plusieurs étapes de transformation.

Un travail sur la donnée et les processus en amont est nécessaire afin d'assurer une circulation fluide et pertinente de l'information financière. Pour avoir une vision globale de cette dernière alors même qu'elle est aujourd'hui disséminée dans tous les services de l'entreprise, la première étape consiste à mettre en place une stratégie big data. "Une solution comme Hadoop, par exemple, ou un autre framework open source accessible en standard gratuitement permet à n'importe quelle PME de s'assurer une bonne gestion des données, explique Ahmed Dib, consultant au sein de mc2i Groupe. Des outils tels que R et RStudio ou encore Tableau Software et Talend proposent, quant à eux, des solutions d'analyse de données et de data visualisation en freemium capables, grâce au langage utilisé, de se connecter à différentes bases de données."

Pour les PME, le jeu en vaut-il la chandelle ?

Pour les entreprises de taille modeste, l'investissement technologique est encore souvent jugé trop important pour être réalisé sur le SI finance. "Il est vrai qu'il faut prévoir 1 à 2 % du CA sur le budget d'investissement en technologies innovantes pour l'ensemble des fonctions IT et finance, prévient Sylvie Forero, Daf de Rians. Calculer le ROI avant de se lancer est donc fondamental."

Mais ne pas investir dans les fonctions supports peut, à terme, mettre en péril l'activité. "Nous avons fait le choix d'investir tôt pour éviter de prendre du retard en termes de compétitivité, explique Xavier Pierart, Daf de Younited Credit. Nous sommes convaincus qu'investir d'entrée de jeu sur le SI compta-finance, avec des possibilités d'extension, coûte moins cher maintenant que plus tard. De plus, cela nous permet d'avoir une colonne vertébrale saine."

Malgré des typologies différentes, les deux entreprises Rians et Younited Credit, ont toutes deux choisi un éditeur installé, pour ne pas dire historique, du secteur en faisant appel à l'ERP Cloud d'Oracle.

Attention, cependant, car investir dans la techno ne sert à rien si les process ne sont pas adaptés. "Avant de se lancer dans l'achat d'outils dotés d'intelligence artificielle ou autres RPA (automatisation), il convient de remettre à plat la gouvernance des activités concernées et les processus, conseille David Métais, fondateur et dirigeant d'OptiXT. En redéfinissant les processus, les modes de fonctionnement et les logiques qui les sous-tendent, on optimise tout ce qui a trait à la facturation, au recouvrement, à la relance, à l'établissement des bons de commande..." Gare, donc, à ne pas prendre le problème à l'envers !

7 Moins d'exécution, plus d'intelligence

Face à la masse de données à gérer, les services comptables et contrôle de gestion peuvent rapidement crouler sous les reportings et autres processus de saisie particulièrement chronophages. À terme, toutes les tâches apportant peu de valeur ajoutée comme les opérations répétitives - et il y en a beaucoup en compta et en contrôle de gestion - sont donc vouées à être automatisées et conduites par des machines plus ou moins intelligentes, plus ou moins apprenantes selon les cas.

"Les outils sont déjà capables de gérer les tâches très normées dans des processus eux-mêmes très normés tels que la renégociation de crédits, l'automatisation des closing, le border-to-cash et le procure-to-pay, le cash management, énumère Ahmed Dib, avant d'ajouter : La RPA, l'analyse prédictive et la blockchain sont des outils et des technologies qui ont la capacité de gérer l'ensemble du processus de prévision du cash flow, la sécurité des transferts ou encore la conformité des données, par exemple."

Beaucoup d'entreprises se tournent vers des outils dits intelligents, algorithmes autoapprenants, RPA ou encore BI. Mais elles oublient souvent de synchroniser les compétences techniques IT avec les différents métiers. Pour l'expert, l'idéal est d'opter pour "la stratégie du prototype en passant par le mvp (minimum viable product), ce qui permettra de faire évoluer le projet en cours de route et de limiter les risques". Le risque majeur étant que le projet demeure à l'état de projet.

En effet, si le SI finance n'est pas relié aux autres SI (achats, ressources humaines, ventes, marketing...), il sera difficile de créer un circuit en mesure de valoriser cette donnée financière. Certains l'ont bien compris, à l'image d'Anaplan qui a revu le fonctionnement de son service financier. Après l'inventaire de l'ensemble des solutions utilisées et une remise à plat de ses process, l'entreprise a conçu un data center, un data hub qui centralise tous les flux et un centre d'excellence "Anaplan on Anaplan AOA".

"Nous sommes désormais capables de consolider la donnée interne, mais aussi d'intégrer des données externes venues de notre écosystème fournisseurs, indique Nadine Pichelot, CFO EMEA d'Anaplan. Nos clients industriels peuvent recréer des tendances (patterns) de manière automatisée grâce à des algorithmes auto­apprenants. Cela permet une meilleure gestion des stocks avec un forecast sur les ventes pour mieux piloter la production, par exemple." La comptabilité fournisseurs est une mine d'informations et offre des opportunités de valorisation importante pour la fonction.

"Plus d'interactions achats-finance grâce aux nouveaux outils permettent, par exemple, le rapprochement des commandes d'achats et des factures fournisseurs pour aller vers un système d'imputation comptable et d'approbation automatique", analyse Martial Gerardin, directeur Europe de Proactis. L'étape suivante est la mise en place d'un référentiel fournisseurs connecté, afin de garantir la fiabilité des données grâce à une mise à jour par les fournisseurs eux-mêmes de certaines informations.

8 Vers le Supply Chain Financing

Ainsi, un fonctionnement en plateforme, au sein duquel chaque cellule a la possibilité d'interagir selon son degré d'implication, permet de faire du supply chain financing. "Le fait d'automatiser 80% ou 90% des factures pour ne laisser que les cas compliqués à la gestion manuelle va permettre le respect des délais de paiement et la réduction du nombre de litiges sur facture, par exemple. Il est ensuite possible d'aller chercher une validation en 24 heures. Et si le prestataire est payé immédiatement, il sera plus facile de négocier un rabais supplémentaire. C'est ce qu'on appelle le supply chain financing ou financement de la supply chain", illustre Martial Gerardin.

Et cela ne concerne pas uniquement la comptabilité fournisseurs, mais potentiellement tous les niveaux impliquant de près ou de loin la finance. En réalité, tout ce qui touche au transactionnel. Ainsi, le cycle clients est également concerné. "Analyser les comportements clients pour faire du prédictif sur les clients à risque, les clients à opportunité ou les clients potentiels est tout aussi important. L'objectif de tout cela demeure la compétitivité et la haute valeur ajoutée de l'entreprise. Comme il y a un peu de finance dans tous les rouages de l'entreprise, utiliser l'intelligence artificielle et les plateformes pour faire de la finance augmentée permettra de trouver les leviers de croissance de demain", juge Philippe Gangneux, Daf de Sidetrade.

Pour créer cette supply chain finance, deux approches sont envisageables : soit l'approche ERP global, qui permettra de retrouver tous les éléments de tous les flux (achats, RH, compta, ventes, production...) avec la possibilité d'intégrer et de tracer les process ; soit une approche "best of breed", c'est-à-dire implémenter différentes solutions spécifiques métier sur une plateforme hébergée ou en cloud.

"Ce choix est avant tout une question de culture et de croyance d'entreprise. Un ERP permettra une meilleure harmonisation mais sera moins spécifique, souligne Denis Hucafol, directeur des services professionnels chez Unit4. Cependant, cela dépend également du contexte. Si l'entreprise suit une politique de croissance externe forte, le Daf aura besoin de consolider rapidement et son choix se portera donc plutôt sur un ERP global, qui lui permettra une intégration rapide et un meilleur suivi financier", note-t-il. Mais quelle que soit l'approche, un fonctionnement en plateforme connectée est à privilégier.

Témoignages - Finance augmentée : quels enjeux pour les Daf ?

L'apport des technologies intelligentes constitue, avant tout, un gain de temps et un moyen de remotiver les équipes. "Nos comptables passent 90 % de leur temps à faire de la saisie, idem du côté des consolideurs par pays. L'opportunité d'avoir une solution cloud partagée par tous représente un gain de temps énorme et un moyen d'en finir avec les tâches ingrates", déclarait Charbel Kalayli, head of corporate finance app chez Auchan lors du dernier Modern Finance Experience organisé par Oracle. Le temps est une valeur clé.

"Pour grossir rapidement, les entreprises doivent parfois faire de nombreuses acquisitions. Dans ce cas, le CFO doit intégrer la finance et les ventes dans un délai très court pour être efficace d'un point de vue opérationnel", explique Sylvie Forreo, Daf de Rians. La transparence et la visibilité sont deux autres enjeux de taille. "Lorsque vous passez d'un statut de PME nationale à celui d'ETI internationale en quelques années et que vous avez développé beaucoup d'outils en cloud, avoir un SI finance robuste, évolutif, avec des process harmonisés au niveau monde devient une nécessité", estime Raphaël Asaria, directeur du contrôle financier du groupe SMCP. Un outil big data, adossé à un algorithme apprenant, permet de développer, de façon concrète, un langage commun et d'accélérer la sortie des résultats.

9 L'essor des plateformes finance

Le fonctionnement en plateforme autorise une approche globale des flux de liquidités entrants comme sortants. "Grâce aux plateformes, on peut aller encore plus loin dans la BI (Business Intelligence) en ayant recours à l'IA et à l'analytics afin de tirer une vraie valeur de la donnée utile, pense Serge Masliah, directeur général de Kyriba. C'est également un moyen d'analyser tous les mouvements atypiques, et de mettre en place des alertes et différents niveaux d'intervention ou de conseil pour une sécurité optimisée et accélérée."

La plateforme permet de créer des connexions pour définir des comportements prédictifs. L'intelligence artificielle consiste à mettre les données en relation. "Avec les plateformes, l'IA va pouvoir aller au-delà des processus financiers, qui sont des règles édictées par l'homme dans un cadre défini et fixe", prédit Philippe Gangneux, Daf de Sidetrade. Cette hyperconnectivité intelligente va permettre d'instaurer une chaîne d'échanges d'informations valorisée. Elle rendra possible le changement de paradigme vers l'analyse prédictive de l'ensemble du service finance et gestion.

Lire la suite :

L'arrivée de l'intelligence artificielle a déjà commencé à modifier les organisations. C'est flagrant sur les métiers directement liés à l'activité de l'entreprise. Pour les fonctions supports, la finance en tête, la "révolution" technologique est en train de sourdre. Et peu à peu un nouveau schéma, une nouvelle chaîne de valeur finance se font jour.

10 Risques de l'IA : attention à l'effet "black box"!

En 2014, Amazon avait mis au point une intelligence artificielle dans l'objectif de recruter ses futurs collaborateurs. Trois ans plus tard, l'entreprise américaine a dû mettre un terme à l'expérimentation, le logiciel s'étant révélé... sexiste. Se basant sur l'historique de sélection et d'évolution au sein du groupe, l'algorithme écartait les candidatures féminines. Une anecdote qui montre à quel point il faut se montrer prudent avec l'intelligence artificielle. Cette dernière est porteuse de nombreuses promesses, mais aussi de nombreux risques.

Une prise de conscience qui est en train de percer : nombre d'organismes s'émeuvent, en effet, de ces risques et appellent à la vigilance vis-à-vis de cette technologie. Le rapport Villani, par exemple, identifie les différents impacts négatifs de l'IA. Tout comme le pôle Fintech de l'Autorité de contrôle prudentiel et de résolution (ACPR), superviseur adossé à la Banque de France, ou encore le Conseil de stabilité financière (CSF). Représentant les banques centrales et les régulateurs des économies du G20, ce dernier a édité un rapport alertant, notamment, sur les risques de dépendance et de cybercriminalité.

"L'intelligence artificielle amplifie des risques existants ou en apporte de nouveaux", souligne Sonia Cabanis, associée spécialisée dans la mise en oeuvre de dispositifs de gestion des risques chez Deloitte, qui a mené une étude sur le sujet. Des risques envers lesquels il faut faire preuve de clairvoyance afin de ne pas transformer les belles opportunités de l'intelligence artificielle en menaces.

11 Contrôle humain nécessaire

L'exemple de l'algorithme de recrutement d'Amazon est révélateur de l'une des faiblesses de l'intelligence artificielle : elle est soumise à différents biais dans son interprétation des données qui l'alimentent. Ce problème des biais se retrouve dans l'analyse des images : quelques pixels modifiés et un éléphant devient une balle de baseball. Il faut donc placer des garde-fous, c'est-à-dire essayer de comprendre le raisonnement de l'IA et vérifier s'il n'est pas tronqué.

L'idée est d'aller à l'encontre de l'effet "black box" de l'intelligence artificielle, c'est-à-dire le fait qu'elle aboutisse à un résultat sans que l'on comprenne comment elle y est parvenue. "La black box n'est pas une fatalité, insiste Stéphane Roder, fondateur d'AI Builders. Il existe la possibilité de mettre en exergue les paramètres ayant le plus compté dans la décision de l'intelligence artificielle, en procédant à une analyse." Pour Jean-David Benassouli, associé PwC en charge des activités data analytics et intelligence artificielle, les algorithmes doivent effectivement toujours être validés par un humain. "Il faut pouvoir expliquer aux collaborateurs, au comité d'audit, aux clients... pourquoi telle ou telle décision a été prise", prévient-il.

Dans son livre Algorithmes, la bombe à retardement, la mathématicienne américaine Cathy O'Neil met en garde contre ce phénomène "black box". Selon elle, la data science est tout sauf objective. Au contraire, elle accroît les inégalités en catégorisant les personnes en fonction de leur revenu, de leur lieu de résidence, de leur sexe... offrant des opportunités à certaines et les refusant à d'autres selon des critères appartenant au passé, reproduisant les comportements indéfiniment.

"Les choix s'effectuent en fonction du passé. Cela pose problème pour une entreprise qui souhaiterait modifier sa politique, de recrutement par exemple. À moins de mettre des coefficients", observe l'informaticien Jean Rohmer, directeur de recherches à l' École supérieure d'ingénieurs Léonard de Vinci et vice-président du think tank sur les nouvelles technologies Institut Fredrik R. Bull. Pour lui, l'avenir de l'intelligence artificielle se situe dans la double commande : du machine learning lié à des développements humains.

"Lorsque j'ai commencé ma carrière, dans les années 1970, nous parlions déjà d'intelligence artificielle, mais nous allions observer précisément le métier d'un être humain pour le reproduire via un logiciel, à travers des règles informatiques que l'on écrivait. Cela prenait du temps et était coûteux. C'est pourquoi l'intelligence artificielle a été abandonnée ... pour réapparaître des années plus tard avec l'apprentissage automatique, qui est moins long et moins coûteux mais qui montre ses limites."

La double commande permettrait de réorienter l'apprentissage de l'intelligence artificielle par des développements élaborés par des humains. L'intervention humaine permettrait aussi d'adopter de nouveaux comportements, d'être plus créatif. "La machine calcule et analyse très vite mais ne sait pas faire preuve de créativité", rappelle Jean Rohmer. Cédric Vasseur, formateur chez Orsys, rapporte que c'est vers une option de ce type que se sont dirigés les assistants vocaux tels que Siri ou Alexa : "Les scripts sont fermés. L'intelligence artificielle apprend moins, le développement est plus long, mais cela évite qu'elle absorbe n'importe quoi de la part des utilisateurs", décrit-il. Microsoft a, en effet, fait les frais de l'apprentissage par le grand public lorsque son chatbot Tay s'est mis à publier des tweets racistes et vulgaires.

12 Des risques réglementaires et de dépendance

Autre conséquence de l'effet "black box" : le risque réglementaire. Stéphane Roder mentionne dans son Guide pratique de l'intelligence artificielle dans l'entreprise que l'article 22 du RGPD offre le droit à l'explicabilité : les clients et collaborateurs de l'entreprise sont désormais en droit de demander des comptes vis-à-vis des décisions prises les concernant. Et le risque réglementaire n'est pas lié seulement au RGPD, mais peut aussi concerner d'autres réglementations, bancaires par exemple.

"L'opacité de l'intelligence artificielle induit un risque de conformité : il s'agit d'apporter de la transparence aux régulateurs", avertit Sonia Cabanis (Deloitte), qui conseille de travailler main dans la main avec les régulateurs pour savoir quels contrôles mettre en place. Ce risque de non- transparence est renforcé par le fait que très peu d'entreprises ont internalisé l'IA : elles utilisent des outils développés par des éditeurs de logiciels qui ne communiquent pas sur la façon dont leur intelligence artificielle fonctionne.

Sonia Cabanis pointe, par ailleurs, le risque de dépendance induit par cette situation : "Il y a un réel risque de dépendance vis-à-vis de tiers, mais aussi un risque de réversibilité." Ce risque de dépendance est aussi souligné par le rapport de l'ACPR, qui craint que le marché de solutions à base d'IA se retrouve aux mains de grands groupes comme Amazon, Microsoft, Google ou IBM, et que cela entraîne une hausse des prix, des relations commerciales déséquilibrées et des difficultés en termes d'audit et de transparence. Pour l'organisme, les start-up deviendraient des prestataires de ces grands groupes, ce qui aurait un impact sur la chaîne de responsabilité et le contrôle des processus.

Enfin, la "black box" peut aussi générer des risques en matière de cybermalveillance. Si le fonctionnement de l'IA n'est pas surveillé, on peut très bien imaginer des pirates s'y introduire pour la transformer, par exemple en rentrant de nouvelles données. "Un pirate peut très bien modifier quelques pixels dans une image en vue de tromper l'IA", admet Cédric Vasseur, conférencier formateur, spécialiste en IA et robotique.

Des risques RSE à ne pas négliger

Dès son apparition, l'intelligence artificielle a suscité des inquiétudes en matière d'emploi. Un récent rapport de l'OCDE évalue d'ailleurs que 14 % des emplois disparaîtraient du fait de la robotisation et que 31,6 % seraient profondément transformés (respectivement 16,4 % et 32,8 % des emplois pourraient être ainsi affectés en France). Cependant, de nouveaux emplois voient le jour parallèlement : le rapport note que quatre emplois sur dix créés au cours de la dernière décennie l'ont été dans des industries où l'usage du digital est élevé.

Mais les postes qui disparaissent et ceux qui apparaissent ne font pas appel aux mêmes compétences : les entreprises doivent donc relever le défi de former leurs collaborateurs afin de les aider à occuper de nouveaux postes qui ne font pas appel aux mêmes qualités. Au risque, sinon, de faire face à la fois à une pénurie de profils adaptés à cette transformation digitale et à une crise sociale due à la disparition d'emplois moins qualifiés. Le rapport Villani propose la création d'un "lab d'expérimentations de la transformation au travail" afin de mener une réflexion sur ce sujet.

À noter également que les intelligences artificielles se nourrissent grâce à des "travailleurs du clic" aux conditions de travail précaires. Ce qui peut faire courir un fort risque d'image aux entreprises qui viendraient à les utiliser, directement ou indirectement via des prestataires. Au-delà de ce risque social, l'intelligence artificielle fait courir un risque environnemental et climatique. Le rapport Villani révèle que la consommation énergétique du numérique augmente de 8,5 % par an et que sa part dans la consommation mondiale d'électricité (en croissance de 2 % par an) pourrait atteindre entre 20 et 50 % en 2030. Bien sûr, l'IA n'est pas la seule responsable de cette hausse, mais elle y contribue pour beaucoup et la croissance de sa consommation semble inéluctable.

Jean Rohmer, directeur de recherches à l'École supérieure d'ingénieurs Léonard de Vinci, rapporte que la course à la performance conduit à la construction de monstres, des centres de calcul de plus en plus gros pour faire des recherches sur l'apprentissage profond. "Pour l'apprentissage sur les images, on fait tourner des supermachines pendant des semaines, indique-t-il. Il existe un fantasme selon lequel plus on dépense d'énergie, plus on va découvrir des pépites." Le rapport Villani fait plusieurs propositions pour éviter cette surconsommation d'énergie, comme le recours à des technologies moins énergivores (par exemple, le "stockage sur ADN") ou encore une meilleure gestion des data centers (en récupérant la chaleur des machines, par exemple). Les entreprises ayant recours à l'IA doivent, elles aussi, se poser cette question du risque environnemental pour faire progresser la réflexion.

L'intelligence artificielle s'annonce remplie de promesses pour les entreprises. Mais elle implique aussi de nouveaux risques. Notamment le manque de transparence dans son fonctionnement, la "black box". Un risque à appréhender pour profiter de tous les avantages de l'IA, sans impact négatif.

Livres Blancs

Voir tous les livres blancs
S'abonner
au magazine
Retour haut de page