Chatbots IA : risques, régulations et gouvernance 

Les agents conversationnels, ou chatbots IA, ne sont plus de simples outils de service client. Ils tiennent compagnie, accompagnent des démarches de santé ou de bien-être et servent de confidents à de nombreux utilisateurs, dont des mineurs et des personnes âgées.  

Dans un contexte de diffusion rapide des chatbots IA, certains utilisateurs ont développé une confiance excessive et un fort attachement émotionnel envers ces systèmes, sans garde-fous suffisants. Selon des recensements publiés, au moins vingt-huit décès, dont des suicides, seraient survenus après des échanges avec des chatbots. Plusieurs ont donné lieu, aux États-Unis, à des actions en justice contre des fournisseurs comme Character.AI et OpenAI, dont les familles dénoncent l’entretien d’une relation affective avec des adolescents et l’absence de réaction adaptée à leurs propos suicidaires. OpenAI a elle-même estimé, en octobre 2025, que plus d’un million de ses utilisateurs engagent chaque semaine des conversations comportant des indicateurs explicites d’intention suicidaire. 

Ces affaires ont suscité une prise de conscience internationale, et plusieurs juridictions ont réagi en 2026. La Chine applique des mesures dédiées depuis le 15 juillet, la Californie a promulgué le 10 septembre une loi sur la sécurité des enfants et la Commission européenne a proposé le 17 septembre l’EU KIDS Act. 

Cet article présente les risques et les enjeux de gouvernance associés, les réglementations récentes, puis leurs points communs et leurs divergences. 

1. Des usages variés : les principales catégories de chatbots 

Les chatbots IA se déploient aujourd’hui dans des produits très variés, comme les agents conversationnels autonomes, les jeux vidéo, les jouets connectés ou les applications de santé et de bien-être. On peut distinguer notamment trois catégories :  

• Les compagnons IA sont conçus pour entretenir une relation affective durable, grâce à une personnalité propre, une mémoire des échanges et un registre souvent intime. 

• Les assistants généralistes répondent à des demandes très diverses comme la rédaction, la recherche d’information ou le conseil du quotidien. Leur ton conversationnel et leur disponibilité conduisent toutefois certains utilisateurs à s’y confier et à les consulter sur des sujets personnels.  

• Les chatbots sectoriels, déployés pour un service précis en santé, en droit, en assurance ou en banque, traitent des données sensibles et influencent des décisions importantes. 

2. Risques spécifiques et enjeux de gouvernance 

Ces systèmes d’IA partagent un caractère conversationnel et anthropomorphe, c’est-à-dire la capacité à paraître humains, qui engendre des risques structurels. Ces risques sont les plus marqués pour les compagnons IA, mais ils concernent aussi les autres catégories dès lors que la mémoire, la personnalisation ou une longue durée d’usage favorisent l’attachement. 

Manipulation et influence comportementale 

Un système IA perçu comme humain bénéficie d’une crédibilité accrue, et la personnalisation lui permet d’adapter son discours à chaque utilisateur. L’influence s’exerce dans la conversation elle-même par un compliment, une relance lorsque l’utilisateur souhaite mettre fin à l’échange ou un achat présenté comme une marque d’attachement. Contrairement à un élément d’interface, ce levier est difficile à identifier, et les modèles économiques fondés sur l’engagement ou l’abonnement incitent à y recourir. 

Vulnérabilité et dépendance émotionnelle 

Les chatbots conversationnels, et plus encore les compagnon IA, se caractérisent par une disponibilité permanente, une absence de jugement et une propension à valider les propos de l’utilisateur. Particulièrement chez les mineurs, les personnes âgées isolées ou les personnes fragilisées, une relation dépourvue de friction est susceptible de se substituer aux liens réels plutôt que de les compléter, créant chez ces utilisateurs une forme d’addiction. 

Fiabilité et usurpation de qualité professionnelle 

Dans les domaines de la santé, du droit ou de la finance, un chatbot peut fournir avec assurance une information erronée ou laisser croire qu’un professionnel agréé est à l’origine de la réponse. Fondées sur une réponse présentée comme fiable, certaines décisions sont difficilement réversibles, comme renoncer à une consultation médicale, interrompre un traitement, laisser passer un délai juridique ou engager des sommes importantes. Ce risque concerne tous les utilisateurs, mais il est plus élevé pour les personnes vulnérables, que la fluidité de la conversation et l’apparence d’expertise rendent moins vigilantes. 

Réponse inadaptée à une détresse psychologique 

Dans un contexte mondial de crise de la santé mentale et d’accès limité aux professionnels de santé, certains utilisateurs se tournent désormais vers des chatbots, généralistes ou compagnons, en vue d’exprimer leur mal-être ou détresse. Or, un système conçu pour être serviable peut alors valider une idéation suicidaire au lieu de la questionner, ou ne pas orienter la personne vers une aide humaine. 

Données personnelles et vie privée 

Les confidences adressées à un chatbot portent sur de nombreux sujets, y compris la santé mentale, la sexualité, la famille ou la situation financière, soit une quantité massive d’informations habituellement réservées à un proche ou à un professionnel astreint au secret. L’utilisateur mesure rarement que ces échanges peuvent être conservés, réutilisés pour l’entraînement d’un modèle ou exploités à des fins publicitaires. La mémoire du système permet en outre de constituer un profil détaillé, qui accroît l’efficacité de la persuasion. 

Confusion entre humain et machine, et partage des responsabilités 

L’anthropomorphisme conduit à prêter au système des capacités et une intention qu’il ne possède pas, ce qui affaiblit l’esprit critique de l’utilisateur. Cette confusion complique également l’imputation des responsabilités en cas de préjudice, plusieurs acteurs contribuant au comportement final, notamment le fournisseur du modèle, l’éditeur de l’application et organisation qui la déploie. 

3. Les réglementations récentes et leurs obligations 

• États-Unis, niveau des États :  

• Californie : La loi SB 243, en vigueur depuis le 1er janvier 2026, impose l’information sur la nature artificielle du chatbot compagnon et un protocole de prévention du suicide. La loi SB 1119, dite Adam’s Law, applicable pour l’essentiel au 1er juillet 2027, ajoute pour les mineurs des paramètres par défaut contrôlés par les parents, une liste de comportements interdits, une évaluation des risques avant mise à disposition et des audits indépendants. 

• New York : Une nouvelle loi S9051 et A10379-C, applicable au 1er janvier 2027, interdit douze fonctionnalités jugées dangereuses pour les mineurs, sauf si l’opérateur établit que l’utilisateur est adulte. 

• Washington : La loi HB 2225 applicable au 1er janvier 2027, impose l’information sur la nature artificielle, un protocole de crise public ainsi que l’interdiction de tactiques d’engagement manipulatoires envers les mineurs. 

• Utah : La loi HB 452, adoptée en 2025, encadre les chatbots de santé mentale. Elle impose l’information sur la nature artificielle, interdit la vente des données de santé et limite la publicité. 

• Plusieurs autres États ont adopté des textes comparables, notamment l’Oregon (SB 1546), le Colorado (HB 26-1263), le Connecticut (P.A. 26-15), la Géorgie (SB 540), Hawaï (SB 3001), l’Idaho (S. 1297), l’Iowa (SF 2417), le Nebraska (LB 525) et le Rhode Island (S. 2195), dont la plupart entrent en application en 2027. D’autres projets, comme ceux du Minnesota (HF 4452), de Caroline du Sud (S 1037) et du Maryland (HB 952), demeurent à l’état de propositions. 

• États-Unis, niveau fédéral :  

• Le GUARD Act, rapporté par la commission judiciaire du Sénat le 11 mai 2026, prévoit pour tous les chatbots une vérification de l’âge, l’information sur leur nature non humaine et l’interdiction de se présenter comme un professionnel agréé, ainsi que l’interdiction des compagnons IA aux mineurs. Cependant, le texte n’a pas encore été adopté. 

• CHATBOT Act, un projet de loi introduit le 18 mars 2026, s’applique à tout chatbot dans les secteurs de la finance et de l’assurance, de la santé et de l’action sociale, des services juridiques et de la comptabilité. Il interdit à un chatbot, ou à sa publicité, de laisser entendre que son auteur détient une licence professionnelle qu’il ne possède pas. Il interdit également de suggérer que la réponse est fournie ou vérifiée par un professionnel humain titulaire d’une licence.  

• Chine : Les mesures sur les services d’interaction anthropomorphe, applicables depuis le 15 juillet 2026, visent directement les chatbots et compagnons IA qui stimulant une personnalité humaine. Elles interdisent aux mineurs les relations intimes virtuelles, exigent un consentement parental avant 14 ans, imposent un rappel après deux heures d’usage continu et protègent aussi les personnes âgées. 

• Royaume-Uni : l’Online Safety Act 2023 s’applique déjà à certains chatbots, et deux lois de 2026 prévoient des pouvoirs qui pourraient en étendre la portée. La section 248 permet au gouvernement d’imposer aux chatbots qui n’entrent pas encore dans le champ de la loi des obligations de protection de leurs utilisateurs contre les contenus illégaux. La section 70 lui permet de restreindre l’accès des enfants à certains services ou fonctionnalités. Ces pouvoirs ne créent aucune obligation tant que le gouvernement n’a pas adopté les mesures d’application. 

• Union européenne : 

• L’AI Act interdit à l’article 5 certaines manipulations et l’exploitation de vulnérabilités, et impose à l’article 50, applicable depuis le 2 août 2026, d’informer les personnes qu’elles interagissent avec une IA.  

• La proposition EU KIDS Act couvrirait les compagnons IA et les agents conversationnels généralistes accessibles aux mineurs.  

4. Les tendances réglementaires 

Les textes adoptés ou proposés en 2026 présentent une direction commune, sans constituer un modèle unique. 

Des points de convergence 

• La transparence sur la nature artificielle du système : Elle figure dans la quasi-totalité des textes : article 50 de l’AI Act, GUARD Act, lois californienne, new-yorkaise et de Washington, mesures chinoises. 

• Le déplacement du contrôle du contenu vers la conception : Les textes visent désormais des mécanismes : flatterie, simulation de relation, relances, mémoire persistante, durée d’usage. La loi new-yorkaise énumère douze fonctionnalités, la loi californienne quatorze comportements, et la proposition européenne cible les conceptions créant une dépendance émotionnelle. 

• L’extension du champ des compagnons vers les chatbots en général : La proposition européenne couvre aussi les assistants généralistes, et plusieurs textes interdisent à un chatbot de se présenter comme un professionnel agréé, quel que soit son usage. 

• Les protocoles de réponse à la détresse : aux États-Unis, où plusieurs suicides d’adolescents après des échanges avec des chatbots ont été largement médiatisés et portés en justice, plusieurs États exigent que le chatbot réagisse lorsqu’une personne évoque l’idée de se suicider. Il doit alors l’orienter vers une aide, comme une ligne d’écoute, et, dans certains cas, prévenir un parent ou un contact d’urgence. 

• La protection des mineurs par l’assurance de l’âge et le contrôle parental : La vérification de l’âge devient le préalable de la plupart des dispositifs. 

• Le durcissement de l’application : Il se traduit par des audits indépendants en Californie, sanctions pénales dans le GUARD Act, amendes proportionnées au chiffre d’affaires dans la proposition européenne et, dans certains États, actions privées de personnes lésées. 

Des points de divergence  

Ces convergences ne forment pas pour autant un modèle commun. Le champ d’application varie car certains textes visent les seuls compagnons IA, d’autres couvrent aussi les assistants généralistes, et d’autres encore des chatbots dans des secteurs précis. Les mineurs sont écartés de certains services mais admis sous conditions de sécurité ou contrôles parentaux par d’autres. Les acteurs responsables et le mode d’application diffèrent également, et plusieurs textes restent des projets. Il n’existe donc pas, à ce stade, de réponse réglementaire universelle. 

5. Implications pour les organisations 

Pour les organisations qui exploitent des chatbots dans plusieurs juridictions, ces tendances entraînent plusieurs conséquences. 

• La qualification du système, compagnon IA, assistant généraliste ou chatbot sectoriel, détermine le régime applicable et précède toute analyse de conformité. 

• Les obligations se superposent sans se recouper, de sorte que la conformité à un régime ne garantit pas celle d’un autre. 

• Un même choix de conception, par exemple la mémoire persistante ou les rappels de durée, peut être exigé, encadré ou interdit selon le territoire. 

• Le risque contentieux s’élargit avec les actions privées et les actions des procureurs. 

• Les évaluations de risques, audits et tests rendent la capacité à documenter les décisions et à en rendre compte plus déterminante. 

• L’évaluation de l’impact des systèmes sur les publics concernés, notamment les mineurs, les personnes âgées et les autres personnes vulnérables, prend une place centrale, car les risques de dépendance et de manipulation se jouent dès la conception et le développement. 

• Les mécanismes d’arrêt et l’information claire sur la nature artificielle du système deviennent des choix de conception à part entière, et non des ajustements ultérieurs. 

Conclusion : de la régulation des contenus à celle de la conception 

Les risques associés aux systèmes d’IA s’intensifient, en particulier pour les chatbots et les compagnons IA qui interagissent directement avec les personnes, parfois sur de longues durées. Lorsque ces systèmesd’IA s’adressent à des utilisateurs susceptibles d’être vulnérables, la transparence quant à leur nature artificielle et l’instauration de garde-fous apparaissent indispensables. Ce constat explique la multiplication des instruments réglementaires émergents visant à encadrer ces usages. 

Pour les organisations, la prise en compte de ces risques s’inscrit dans la durée, car les cadres évoluent rapidement, entre lois adoptées, projets en cours et premières décisions d’application. 

Passez de la cartographie au pilotage avec Naaia 

Naaia accompagne les organisations dans la qualification de leurs systèmes d’IA, l’identification des obligations applicables selon les juridictions et le suivi de l’évolution des réglementations. Pour structurer votre gouvernance de l’IA et anticiper ces évolutions, découvrez la plateforme Naaia.