Opportunités et Risques de l’IA

Les 5 points à retenir

  • L’intelligence artificielle (« IA ») est le levier de la troisième transformation économique au service de l’entreprise.
  • Le recours à l’IA améliore la productivité parce qu’elle propulse l’innovation, augmente l’efficacité du travail et garantit une instantanéité de réaction face à la demande.
  • Le pendant de la puissance de l’IA est sa propension à se tromper… d’une manière différente à celle de l’humain.
  • La valeur ajoutée de l’IA repose sur l’humain.
  • L’IA devient un facteur de transformation de gouvernance d’entreprise et des compétences de ses salariés.

Introduction

La déferlante de l’IA investit tous les mondes. Brûlant les étapes, elle ouvre ex abrupto le champ des possibles, offrant un potentiel transformateur remarquable dans le monde des affaires. A l’échelle de l’entreprise, elle révèle de nouveaux modes opératoires, permet de repenser les décisions, de redéfinir les interactions avec la clientèle et de rester compétitive dans un univers en constante mutation.

Le déploiement de l’IA s’effectue d’ores et déjà à l’échelle des entreprises, ouvertes à ses promesses mais conscientes des enjeux auxquels il faut d’ores et déjà se préparer. Nous explorerons ces opportunités majeures, en termes d’innovation, d’efficacité mais également de réussite commerciale, avant de nous attacher à l’identification les principaux défis qu’elle présente, afin de mieux les relever.


1.    Opportunités des systèmes d’IA, et plus particulièrement des systèmes d’IA générative

Propulser l’innovation

La collaboration accrue entre intelligences humaine et artificielle conduit à des avancées révolutionnaires dans de nombreux domaines.

De la découverte d’un nouvel antibiotique à la possibilité de détecter l’authenticité d’un vin grâce à l’IA en passant par un outil capable d’analyser le comportent des animaux d’élevages ou la découverte d’une nouvelle recette de Coca-Cola: les titres de presse sont pléthores pour défendre et ratifier les avancées rendues possibles grâce à l’IA.

Automatiser les processus

L’automatisation des processus permet aux équipes d’une entreprise de s’alléger des tâches répétitives pour se consacrer à des activités stratégiques, plus complexes et à plus forte valeur ajoutée.

A titre d’exemple, dans le secteur de la vente en ligne, les questions clients peuvent être dirigées vers des chatbots, capables d’y répondre immédiatement, de s’en emparer pour traiter les retours de produits et de s’attacher aux commandes en fonction des préférences qui leur sont indiquées. Dans la restauration, l’IA peut automatiser les réponses aux messages privés sur les réseaux sociaux, améliorer la gestion des avis clients et rédiger des post plus rapidement.

Analyser des données de manière avancée

L’IA ne se cantonne pas à la simple analyse de données : elle se distingue par sa capacité à en exploiter un volume immense, et ce en temps réel. A l’ère de la prise de décision fondée sur les données (« data driven »), l’IA peut prédire les tendances des marchés boursiers ou générer des contenus personnalisés pour les utilisateurs.

Capables de se projeter dans un environnement explicite, les entreprises peuvent s’adapter en temps réel. Dans le cadre de la restauration par exemple, il est possible d’identifier les préférences des clients en fonction de leur comportement : prévoir l’affluence, éviter le gaspillage, ou même déclencher des offres promotionnelles au moment opportun.

Prédire des défaillances et prévoir la demande

Les entreprises sont en mesure de mettre à profit l’IA afin de prévoir toute défaillance et la maintenance qui en découle. Elles peuvent également anticiper la demande de produits nécessaires pour satisfaire une demande fluctuante et parfois imprévisible, comme l’est celle des marchés financiers où les conditions changent en quelques millisecondes.

Toutes les opportunités précédemment évoquées s’accompagnent de défis à relever. De l’ordre de l’éthique, du domaine juridique ou de celui de la gouvernance, de la maîtrise des données ou de l’acculturation à un contexte réglementaire composite et stratifié, tous méritent d’être pris en compte de concert afin que l’entreprise accueille l’IA sur de solides bases, l’IA de Confiance.


2.    Les défis à relever

L’adage « garbage in, garbage out » (ce qui rentre ressort) se confirme dans le domaine de l’IA. Lorsque les modèles sont conçus ou alimentés à partir d’informations incomplètes, biaisées ou obsolètes, les résultats prédictifs sont impactés.

De l’ordre de l’éthique : l’exemple du recrutement

Les IA, qui exploitent l’apprentissage automatique et les algorithmes pour analyser de vastes ensembles de données, sont de plus en plus intégrées dans divers processus RH. De la sélection des candidats à l’analyse prédictive des départs en passant par la gestion des talents et la planification de la relève, ces technologies offrent gain de temps et capacités prédictives.

La diversité, l’équité et l’inclusion sont les composantes essentielles de l’outil de recrutement : à titre d’exemple, la commission américaine de l’égalité des chances en matière d’emploi (« Equal Employment Opportunity Commission ») a condamné pour discrimination à l’embauche une entreprise qui aurait programmé son logiciel de recrutement en excluant les candidats les plus âgés.  

De l’ordre juridique : la protection du droit d’auteur : des dispositions susceptibles d’évoluer

Comme nous le mentionnions dans notre article, Confrontation et convergence : Le droit d’auteur face à l’intelligence artificielle, le périmètre de la réglementation européenne au regard de la propriété intellectuelle fut l’une des pierres d’achoppement au cours des négociations conduites lors des différents trilogues aboutissant au texte provisoire adopté en Coreper le 13 février dernier. Encore aujourd’hui, l’articulation droits d’auteur et entrainement des données de l’IA fait débat. Malgré l’inclusion du droit d’auteur dans le règlement sur l’IA, Bercy aimerait tout de même rouvrir la directive « droit d’auteur ». Il estime que l’IA générative provoque une révolution en matière de droit d’auteur, car les œuvres protégées ne sont pas acquises par les développeurs d’IA, mais plutôt louées pour entraîner les données. Le comité d’experts sur l’IA générative, dont le rapport est attendu en mars, devrait s’exprimer sur ce sujet.

Aux Etats-Unis, après le dépôt de plainte du New-York Times contre Open AI, les grands fournisseurs de cloud et d’IA, notamment Amazon, Google et Microsoft, affirment qu’ils prendront en charge le risque juridique d’une revendication de droits d’auteur découlant de l’utilisation des LLM qu’ils proposent. Mais ces protections sont assorties d’importantes mises en garde.

De l’ordre de la gouvernance : les dirigeants « attendus au tournant » de l’IA

Pour les entrepreneurs du secteur, et notamment Sam Altman, PDG d’OpenAI, cela ne fait pas de doute : « Les emplois vont disparaître. Et voilà. » L’emploi serait-il donc la variable d’ajustement au recours à l’IA ? L’OCDE indique en effet qu’en 2023 27% des emploi sont en danger du fait de l’automatisation. Pour autant, les perspectives de son déploiement semblent plus optimistes puisque dans une enquête menée en octobre 2023, seuls 17 % des dirigeants pensent que l’IA va remplacer leurs employés.

Souvent initié par les employé.e.s dans leur routine de travail, le recours à l’IA générative mérite d’être encadré, et doit tout d’abord faire l’objet d’une intégration adéquate dans la culture de l’entreprise. En effet, celle-ci a un énorme impact sur la diffusion de la proposition technologique. Une fois acceptée, il appartiendra aux dirigeants de faire cohabiter l’empirisme humain de ses employés à celui de la machine, elle aussi soumise à de nombreuses instabilités qu’il est possible de maîtriser en formant les équipes à la maîtrise de l’IA.

L’IA générative est considérée comme la troisième priorité par 89 % des dirigeants d’entreprise. Cependant, seule une infime partie d’entre eux ont pu former leurs employés et près de la moitié n’ont pas encore encadré son usage, pourtant indispensable à plusieurs titres.


3.    Les risques de l’IA Générative

 La fuite des données

A l’image d’Apple et de Spotify, bon nombre d’entreprises ont déjà encadré l’usage de l’IA générative au vu du risque lié à la fuite des données sous forme, entre autres, de lignes de codes ou de procès verbaux de réunions riches en données sensibles que certains employés envoyaient aux systèmes d’IA. Cet encadrement se révèle d’autant plus nécessaire qu’il apparaît, d’après l’enquête de Fishbowl, que 68 % des 43% des salariés utilisant l’IA le font sans en informer leur hiérarchie.

Les hypertrucages (« Deepfakes »)

Le nouvel outil d’OpenAI baptisé Sora, capable de créer des vidéos ultraréalistes à partir des mots pourrait démocratiser l’usage des deepfakes à court terme. Utilisé pour usurper l’identité, il pourrait se révéler redoutable et multiplier les situations d’hypertrucage. Ce type de tromperie ne relève pas de la fiction, comme en témoigne la récente affaire d’un salarié de banque hongkongaise, qui a procédé à un virement de 25 millions de dollars à des malfaiteurs se faisant passer, par écran interposé, pour les membres de son équipe dirigeante.

Les hallucinations liées à l’usage de l’IA générative

Forte du titre de « mot de l’année 2023 » décerné par le dictionnaire Cambridge, l’hallucination se produit lorsque des modèles d’IA générative fournissent des résultats inattendus ou non fondés sur la réalité. Empruntons au domaine de la pratique légale l’exemple illustrant cette situation :  les chercheurs du Standford RegLab ont démontré qu’en réponse à des requêtes juridiques spécifiques, le taux d’hallucination atteint environ 70 % et que plus la tâche devient complexe, plus ce taux augmente. Des avocats et leur cabinet newyorkais ont ainsi été condamnés pour avoir, en toute bonne foi, présenté au juge leurs conclusions générées par ChatGPT, conclusions fondées sur des affaires purement fictives.

Entraîné par des données en adéquation avec un contexte spécifique et en temps réel, un modèle pourra générer des contenus plus pertinents, permettant à l’entreprise d’en tirer une forte valeur ajoutée.

Le choc réglementaire

Les « 50 nuances de régulation » issues à date de la dernière version de l’IA Act européen, combinées à celles de l’Executive Order nord-américain et de l’IMMGAI (« Interim Measures for the Management of Generative Artificial Intelligence Services » ou Mesures provisoires pour la gestion des services d’intelligence artificielle générative) chinois ne peuvent être appréhendées sans faire appel à une aide de pilotage.  Transformées en actions concrètes et explicites, les différentes dispositions des textes actuels et à venir deviennent des outils incontournables de conformité permettant d’apprivoiser le cadre réglementaire.


4.    Conclusion

L’intelligence artificielle, au cœur de l’innovation des entreprises, fait l’objet d’une évolution en perpétuelle accélération que nul ne saurait freiner. Ce mouvement ne saura s’envisager en cercle vertueux que dans le cadre d’un écosystème d’IA de confiance, conforme aux normes édictées et respectueux des principes éthiques auxquels les entreprises doivent adhérer.