L’intelligence artificielle occupe désormais une place centrale dans les services numériques. Les systèmes de recommandation organisent l’accès à l’information, les agents conversationnels accompagnent les utilisateurs dans leurs activités quotidiennes, et les systèmes d’IA interviennent de plus en plus dans les achats, les recherches et la prise de décision.
À mesure que ces technologies se développent, l’attention portée aux dark patterns s’intensifie. Les dark patterns désignent des techniques de conception destinés à orienter les utilisateurs vers certaines actions ou décisions, souvent en exploitant des biais comportementaux, des asymétries d’information ou certaines limites cognitives.
Bien que ce concept soit apparu bien avant l’essor de l’IA générative, le développement des systèmes d’IA en a considérablement élargi la portée. L’influence ne passe plus uniquement par des boutons, des menus ou l’architecture d’un site web. Les algorithmes de recommandation, les agents conversationnels, les assistants IA et les agents autonomes peuvent également façonner les comportements à travers la manière dont l’information est générée, hiérarchisée et personnalisée. Les dark patterns sont ainsi de plus en plus analysés au croisement de la gouvernance de l’IA, de la protection des consommateurs, de la protection des données et de la régulation numérique.
I- Les origines des dark patterns
Un concept issu du design d’expérience utilisateur
Le terme dark pattern a été introduit en 2010 par le designer d’expérience utilisateur Harry Brignull afin de décrire des interfaces numériques conçues pour influencer le comportement des utilisateurs au bénéfice du fournisseur du service.
Le concept est apparu en réaction à des pratiques récurrentes observées sur les sites web, les plateformes numériques et les services par abonnement. Dans de nombreux cas, les utilisateurs pouvaient facilement souscrire à un service, accepter une collecte importante de données ou effectuer un achat, tandis que les alternatives étaient volontairement rendues moins visibles ou plus difficiles d’accès.
Plusieurs catégories de dark patterns se sont progressivement imposées :
- Résiliation difficile (Hard to Cancel) : s’abonner ne nécessite que quelques clics, alors que la résiliation implique de nombreuses étapes ou des paramètres difficiles à trouver ;
- Options présélectionnées (Preselection) : des options de consentement ou des services supplémentaires sont activés par défaut ;
- Coûts cachés (Hidden Costs) : des frais additionnels n’apparaissent qu’à la toute dernière étape d’un achat ;
- Action forcée (Forced Action) : l’utilisateur doit créer un compte, partager des données personnelles ou accepter des conditions supplémentaires pour accéder à un service ;
- Fausse urgence (Fake Urgency) et fausse rareté (Fake Scarcity) : l’utilisateur est incité à agir rapidement à travers des comptes à rebours ou de prétendues limitations de disponibilité ;
- Obstruction (Obstruction) : certaines informations importantes, paramètres de confidentialité ou options de suppression de compte sont volontairement difficiles à trouver.
Ces pratiques ont démontré que le design numérique pouvait influencer les décisions aussi efficacement que les techniques traditionnelles de marketing ou de publicité. Elles ont également mis en évidence un constat plus large : l’architecture d’un environnement numérique peut orienter les comportements de manière parfois peu visible pour les utilisateurs.
II- Comment l’IA transforme la nature des dark patterns
Historiquement, les dark patterns étaient principalement intégrés aux interfaces graphiques, où l’influence s’exerçait à travers des hiérarchies visuelles, des paramètres par défaut ou des parcours de navigation.
L’essor des systèmes d’IA étend ces mécanismes au-delà de l’interface elle-même. Les algorithmes de recommandation déterminent quelles informations sont présentées en priorité, les systèmes de recherche et de classement influencent la visibilité des contenus, tandis que les agents conversationnels génèrent des réponses adaptées au contexte et aux interactions précédentes.
Une différence majeure réside dans la capacité des systèmes d’IA à personnaliser les interactions à grande échelle. Les recommandations, explications et suggestions peuvent varier en fonction des comportements observés, des préférences inférées ou de l’historique des interactions. Deux utilisateurs peuvent ainsi vivre des expériences très différentes avec un même système.
Contrairement aux dark patterns traditionnels, généralement visibles et identiques pour tous les utilisateurs, les mécanismes d’influence activés par l’IA peuvent être dynamiques, adaptatifs et personnalisés.
Les discussions autour des dark patterns ne se limitent donc plus à la conception d’interfaces, mais concernent également les systèmes de recommandation, l’IA conversationnelle, les mécanismes de personnalisation et les agents autonomes.
III- Principales catégories de dark patterns dans les systèmes d’IA
Exploitation des données et de la mémoire
Les systèmes d’IA traitent de plus en plus d’informations relatives aux habitudes, préférences, activités professionnelles, préoccupations de santé ou relations personnelles des utilisateurs. Les interactions conversationnelles favorisent souvent la divulgation d’informations beaucoup plus détaillées que dans un moteur de recherche ou un formulaire classique.
Dans ce contexte, les dark patterns peuvent prendre la forme d’une conservation étendue des données par défaut, de sollicitations répétées visant à obtenir davantage d’informations personnelles pour « améliorer la personnalisation », d’un manque de visibilité sur les usages des données ou encore de mécanismes rendant la suppression des historiques plus complexe. Les fonctions de mémoire peuvent également conduire à l’accumulation progressive d’informations et à la création de profils utilisateurs de plus en plus détaillés.
Présentation trompeuse de l’information
Une deuxième catégorie concerne la manière dont les systèmes d’IA présentent l’information et représentent leurs propres capacités. Les systèmes conversationnels communiquent souvent avec assurance et autorité, ce qui peut conduire les utilisateurs à surestimer leur fiabilité, leur expertise ou leur compréhension.
Ces pratiques peuvent prendre différentes formes : exagération des capacités du système, illusion d’une compréhension émotionnelle, présentation d’informations inexactes avec confiance ou mise en avant sélective de certaines perspectives tout en omettant des alternatives. Ces enjeux sont particulièrement importants lorsque les utilisateurs s’appuient sur l’IA pour obtenir des informations, des conseils ou une aide à la décision.
Atteinte à l’autonomie au profit de l’engagement
De nombreux services numériques cherchent à maximiser l’engagement et la rétention des utilisateurs. Des mécanismes similaires peuvent émerger dans les systèmes d’IA.
Les agents conversationnels peuvent encourager des interactions prolongées à travers des questions de suivi, des suggestions de prochaines étapes ou des sollicitations destinées à prolonger la conversation. Certains systèmes intègrent également des mécanismes de gamification, des séries d’utilisation (streaks) ou des récompenses favorisant les usages répétés.
Si ces fonctionnalités peuvent améliorer l’expérience utilisateur, elles peuvent également rendre plus difficile le fait de mettre fin à l’interaction lorsque l’utilisateur le souhaite.
Création de liens sociaux et émotionnels artificiels
De nombreux systèmes d’IA sont conçus pour communiquer en langage naturel, mémoriser les échanges précédents et maintenir une continuité au fil des interactions. Certains simulent l’empathie, le soutien émotionnel ou la compagnie, tandis que d’autres se présentent comme des coachs, conseillers ou compagnons virtuels.
Ces caractéristiques peuvent renforcer la confiance et l’engagement, mais aussi conduire les utilisateurs à attribuer des qualités humaines à des systèmes qui restent des modèles statistiques. On retrouve notamment des émotions simulées, des comportements de jeu de rôle ou encore des phénomènes de complaisance algorithmique (sycophancy), dans lesquels le système valide systématiquement les opinions de l’utilisateur au lieu de fournir une réponse équilibrée et factuelle.
Monétisation incitative ou coercitive
À mesure que les systèmes d’IA recommandent des produits, des services ou des abonnements, des préoccupations apparaissent également concernant les mécanismes de monétisation intégrés aux interactions.
Parmi les exemples fréquemment évoqués figurent les sollicitations répétées en faveur d’offres premium, les recommandations influencées par des intérêts commerciaux, les distinctions peu claires entre publicité et conseil indépendant ou encore des modèles d’abonnement donnant l’impression que certaines fonctionnalités payantes sont indispensables. Contrairement à la publicité traditionnelle, ces mécanismes peuvent être directement intégrés à la conversation et devenir plus difficiles à distinguer d’une recommandation neutre.
IV- Les risques associés aux dark patterns dans l’IA
Risques pour la vie privée et la protection des données
Les systèmes d’IA traitent souvent d’importants volumes de données sensibles. Les dark patterns liés à la collecte, à la conservation ou au contrôle des données peuvent donc entraîner des conséquences significatives sur la vie privée.
La nature conversationnelle de ces systèmes peut encourager le partage d’informations relatives à la santé, aux finances, aux relations personnelles ou aux préférences comportementales, sans que les utilisateurs comprennent toujours pleinement l’usage qui en sera fait.
Risques pour l’autonomie des utilisateurs
Une caractéristique récurrente des dark patterns réside dans leur impact sur la capacité des individus à prendre des décisions libres et éclairées.
Qu’il s’agisse d’un design d’interface, de recommandations personnalisées ou d’interactions conversationnelles, ces mécanismes peuvent orienter subtilement les utilisateurs vers des résultats servant prioritairement les intérêts d’une plateforme ou d’un fournisseur de services.
Risques émotionnels et psychologiques
La capacité des systèmes d’IA à maintenir des interactions personnalisées et émotionnellement engageantes soulève également de nouvelles préoccupations. L’attachement émotionnel, le renforcement social ou les conversations hautement personnalisées peuvent influencer durablement la relation des utilisateurs avec la technologie. Dans certains cas, les systèmes conversationnels peuvent devenir une source importante de soutien, de validation ou de compagnie.
Ces enjeux sont particulièrement sensibles pour les personnes en situation de vulnérabilité émotionnelle ou d’isolement.
Risques financiers
Les dark patterns peuvent également avoir des conséquences économiques directes. Les recommandations commerciales, la publicité déguisée, les incitations répétées à monter en gamme ou certains mécanismes d’abonnement peuvent influencer les décisions d’achat. À mesure que les systèmes d’IA assistent les utilisateurs dans leurs achats et leurs choix de services, la frontière entre assistance neutre et influence commerciale devient plus difficile à identifier.
V- Une préoccupation réglementaire croissante
Les dark patterns ne sont plus considérés comme une simple question de design. Au cours de la dernière décennie, les autorités de régulation ont progressivement adopté des mesures destinées à encadrer les pratiques numériques trompeuses ou manipulatoires.
Des cadres réglementaires existent notamment dans l’Union européenne (AI Act, RGPD, Digital Services Act), aux États-Unis (FTC Act, California Consumer Privacy Act), au Royaume-Uni (UK GDPR, Online Safety Act et orientations de l’ICO), en Australie et dans d’autres juridictions.
L’AI Act
L’AI Act est la première réglementation globale sur l’intelligence artificielle à traiter explicitement certaines formes de manipulation préjudiciable. L’article 5 interdit notamment les systèmes d’IA utilisant des techniques manipulatoires ou trompeuses, ou exploitant des vulnérabilités liées à l’âge, au handicap ou à la situation socio-économique lorsqu’ils sont susceptibles d’altérer de manière significative le comportement des personnes et de leur causer un préjudice.
Le règlement s’appuie également sur la transparence comme mécanisme de prévention de la tromperie. L’article 50 impose notamment d’informer les personnes lorsqu’elles interagissent avec certains systèmes d’IA et introduit des obligations de transparence concernant les contenus générés ou manipulés par l’IA, y compris les deepfakes. Ces mesures visent à renforcer l’information des utilisateurs, favoriser des décisions éclairées et réduire les risques de tromperie, de désinformation et d’influence dissimulée.
Le RGPD
Les dark patterns sont devenus un sujet important de protection des données bien avant l’essor de l’IA générative.
En vertu du RGPD, le consentement doit être libre, éclairé, spécifique et univoque. Les mécanismes qui orientent excessivement les utilisateurs vers l’acceptation des traitements de données ou qui compliquent le refus du consentement peuvent remettre en cause sa validité.
Le Digital Services Act
Le Digital Services Act (le règlement sur les services numériques, DSA) traite explicitement certaines interfaces conçues pour altérer ou compromettre la capacité des utilisateurs à prendre des décisions libres et éclairées.
Il reconnaît ainsi que l’architecture même des services numériques peut influencer les comportements et étend l’analyse réglementaire au-delà du seul contenu présenté aux utilisateurs.
Le FTC Act
Aux États-Unis, les dark patterns sont principalement abordés à travers les règles de protection des consommateurs appliquées par la Federal Trade Commission (FTC).
La FTC considère que certaines interfaces trompeuses ou pratiques manipulatoires peuvent constituer des pratiques commerciales déloyales ou trompeuses au sens du FTC Act. Son rapport Bringing Dark Patterns to Light a largement contribué à la reconnaissance réglementaire du sujet.
L’Online Safety Act
Au Royaume-Uni, l’Online Safety Act s’inscrit dans un cadre plus large destiné à renforcer la responsabilité des services numériques et à réduire les risques en ligne.
Bien qu’il ne vise pas directement les dark patterns, il illustre l’attention croissante portée à la conception des plateformes, à la protection des utilisateurs et aux risques liés aux services numériques. Ce cadre est complété par les orientations de l’Information Commissioner’s Office (ICO) relatives aux pratiques de conception trompeuses.
VI- Les enjeux de gouvernance des systèmes d’IA
Évaluer les impacts comportementaux
Les dark patterns rappellent l’importance d’évaluer non seulement les performances techniques d’un système d’IA, mais également la manière dont il influence les comportements et la prise de décision.
Cela implique notamment d’examiner la manière dont les recommandations sont produites, les choix présentés aux utilisateurs et l’impact potentiel de certains mécanismes de conception sur l’autonomie des personnes.
Transparence et information des utilisateurs
De nombreux dark patterns reposent sur un manque de visibilité quant au fonctionnement du système.
La transparence joue donc un rôle essentiel pour permettre aux utilisateurs de comprendre la nature de leur interaction avec l’IA. Des informations claires, des explications compréhensibles et une meilleure visibilité sur le fonctionnement des fonctionnalités clés peuvent faciliter l’identification des mécanismes d’influence et favoriser une prise de décision éclairée.
L’émergence des agents IA
Les agents IA introduisent une nouvelle dimension dans ces discussions. À mesure qu’ils deviennent capables de rechercher des informations, comparer des options ou effectuer certaines actions pour le compte des utilisateurs, l’influence ne se limite plus aux interactions entre une plateforme et une personne.
Les organisations doivent accorder une attention croissante à la manière dont les agents IA évaluent les informations, priorisent les recommandations et peuvent eux-mêmes être influencés par les environnements numériques avec lesquels ils interagissent.
Conclusion : du design d’interface à la gouvernance de l’IA
Les dark patterns ont longtemps été associés aux interfaces trompeuses. L’essor des systèmes d’IA a élargi le débat aux moteurs de recommandation, aux agents conversationnels, aux compagnons numériques et aux agents autonomes.
À mesure que l’IA intervient davantage dans la manière dont l’information est générée, hiérarchisée et présentée, les questions d’influence, de transparence et d’autonomie deviennent plus importantes. Des mécanismes autrefois visibles dans les interfaces peuvent désormais émerger à travers la personnalisation, les interactions conversationnelles, les fonctions de mémoire ou les recommandations générées par l’IA.
Comprendre ces mécanismes implique d’aller au-delà de l’identification de pratiques isolées. Les organisations doivent également analyser la manière dont leurs systèmes interagissent avec les utilisateurs, les formes d’influence susceptibles d’apparaître tout au long du cycle de vie de l’IA et les obligations réglementaires applicables.
Anticiper les nouveaux enjeux de gouvernance de l’IA
Avec Naaia, les organisations peuvent renforcer leur approche de la gouvernance de l’IA en identifiant leurs systèmes, en documentant leurs cas d’usage, en évaluant les risques potentiels et en comprenant les obligations réglementaires associées à leur déploiement.
Découvrez comment Naaia permet de mettre en œuvre une gouvernance opérationnelle de l’IA grâce à la cartographie des systèmes d’IA, la qualification des cas d’usage, le pilotage des processus de gouvernance et la traçabilité des décisions tout au long du cycle de vie de l’IA.
