À compter du 2 août 2026, la plupart des obligations de transparence prévues par l’article 50 de l’AI Act entrent en application. Les fournisseurs et les déployeurs de systèmes d’IA devront mettre en œuvre des mesures de transparence adaptées. Ils devront notamment informer de manière claire, reconnaissable et accessible les personnes physiques lorsqu’elles interagissent avec une IA, lorsqu’elles sont exposées à des systèmes de reconnaissance des émotions ou de catégorisation biométrique, ou lorsqu’elles consultent des contenus générés ou manipulés artificiellement. Ils devront également mettre en œuvre les solutions techniques permettant d’identifier ces contenus synthétiques.
Une exception concerne toutefois l’article 50 §2, relatif au marquage et à la détection des contenus générés ou manipulés par l’IA, dont l’application est reportée au 2 décembre 2026 pour les systèmes génératifs mis sur le marché avant le 2 août.
Pour les entreprises utilisant des chatbots, des agents IA, des outils d’IA générative ou des technologies de création de deepfakes, l’enjeu est désormais d’identifier les usages concernés et de démontrer leur conformité.
Les récentes lignes directrices de la Commission européenne et le Code of Practice on Transparency of AI-Generated Content apportent à cet égard des clarifications essentielles sur le champ d’application de ces obligations, les acteurs responsables et les mesures de conformité attendues.
Dans cet article, nous décryptons les obligations de transparence prévues par l’article 50, les systèmes d’IA concernés, les responsabilités respectives des fournisseurs et des déployeurs ainsi que les mesures concrètes à mettre en œuvre pour sécuriser votre conformité en matière d’IA.
Article 50 §1 – Les systèmes d’IA qui interagissent directement avec des personnes physiques
1. Définir l’interaction : un échange bidirectionnel avec le système d’IA
L’article 50 §1 vise les systèmes d’IA destinés à interagir directement avec des personnes physiques. L’interaction directe suppose un échange bidirectionnel entre une personne physique et un système d’IA. Cela implique que l’utilisateur puisse fournir une entrée au système et que celui-ci soit capable de répondre par une sortie contextuelle. L’interaction peut prendre tout format perceptible et compréhensible par un humain, et peut être ponctuelle ou se dérouler dans le temps.
À l’inverse, la simple collecte passive de données ou l’exposition indirecte à un résultat d’IA, sans échange direct avec le système, est présentée comme hors du champ d’application de l’obligation. Le critère central est donc moins la présence d’IA en arrière-plan que l’existence d’une relation interactive entre la personne physique et le système d’IA.
2. Définir l’interaction directe : temps réel, quasi temps réel et absence d’intermédiaire humain
L’interaction directe suppose une interaction en temps réel ou quasi temps réel, y compris lorsqu’un système d’IA rédige et envoie des messages à des personnes physiques ou interagit avec un environnement physique ou virtuel perceptible par celles-ci. À l’inverse, les interactions indirectes ou médiatisées, dans lesquelles la personne est seulement exposée à des résultats générés par IA sans interagir directement avec le système d’IA, sont exclues.
Cette distinction est essentielle pour les chatbots, agents conversationnels, assistants virtuels, avatars IA ou agents d’IA autonomes. Pour ces systèmes d’IA, la question n’est pas seulement de savoir si l’IA produit une sortie, mais si l’utilisateur peut raisonnablement croire qu’il échange avec un humain ou avec un système automatisé.
3. Ce que doit contenir l’information
Les fournisseurs doivent concevoir et développer le système de manière à ce que les personnes concernées soient informées qu’elles interagissent avec une IA. Cette information doit intervenir au plus tard lors de la première interaction et, dans certains cas, être maintenue ou rappelée de manière continue. Certaines modalités textuelles, auditives ou visuelles sont recommandées par les guidelines, telles que les messages explicites, bannières, badges visibles, annonces vocales, icônes ou labels graphiques.
En revanche, certaines modalités sont insuffisantes lorsqu’elles sont utilisées seules : mentions dans les conditions générales d’utilisation, métadonnées, formulations ambiguës comme « assistant », formulations générales comme « un service utilise de l’IA », ou formulations purement techniques.
4. Le cas particulier des agents d’IA
Les agents IA doivent divulguer leur nature artificielle et l’identité du mandant pour lequel ils agissent. Cette divulgation doit être renouvelée à chaque nouvelle interaction et à certaines étapes clés, notamment lors de la validation, de l’autorisation ou du reporting. Les agents IA susceptibles d’interagir avec des personnes physiques doivent donc être conçus pour se présenter automatiquement comme des systèmes d’IA.
Article 50 §2 – Les contenus synthétiques générés ou manipulés par IA
1. Les contenus concernés : texte, image, audio, vidéo, y compris multimodal
L’article 50 §2 vise les systèmes d’IA qui génèrent ou manipulent des contenus synthétiques, qu’il s’agisse de texte, d’image, d’audio ou de vidéo, y compris lorsque ces contenus sont générés ou modifiés entièrement ou partiellement par IA. L’obligation vise notamment les contenus générés par des systèmes d’IA à usage général et des agents IA.
Le critère central est celui de la perceptibilité du contenu par des personnes physiques : l’obligation s’applique lorsque le contenu généré ou manipulé est destiné à être vu, lu ou entendu par des utilisateurs.
À l’inverse, sont exclus du champ d’application les systèmes qui se limitent à recommander ou afficher des contenus existants, ainsi que les contenus non perceptibles ou purement techniques, tels que le code source, les API, le JSON ou le SQL. Les communications machine-à-machine, les données non transformées et certains usages internes sans exposition externe ne sont également pas concernés. Seul le contenu final généré par IA doit faire l’objet d’un marquage et d’une solution de détection.
2. Une double obligation cumulative : marquage et détection
Les fournisseurs doivent veiller à ce que les sorties soient marquées dans un format lisible par machine et détectables comme ayant été générées ou manipulées par une IA. Cette exigence impose aux fournisseurs de mettre en œuvre deux solutions techniques complémentaires : un marquage lisible par machine, par exemple au moyen d’un filigrane, de métadonnées ou d’empreintes techniques, et une fonctionnalité de détection permettant d’identifier de manière effective l’origine artificielle du contenu.
Ces solutions doivent être effectives, fiables, robustes et interopérables. Leur conformité s’apprécie au regard de l’état de l’art et de la faisabilité technique. A ce jour, aucune solution unique ne satisfait pleinement l’ensemble des exigences, ce qui invite les organisations à combiner plusieurs techniques de marquage et de détection.
3. Une responsabilité qui demeure portée par le fournisseur
Le marquage peut être mis en œuvre à différents niveaux, notamment au niveau du modèle, du système ou au moyen d’un tiers. Toutefois, la responsabilité de conformité demeure assignée au fournisseur. Cette précision est structurante pour les chaînes de valeur impliquant des modèles d’IA à usage général, intégrateurs, éditeurs logiciels et entreprises utilisatrices.
Article 50 §3 – Système de reconnaissance des émotions ou de catégorisation biométrique
1. Une obligation portée par le déployeur
Pour les systèmes de reconnaissance des émotions ou de catégorisation biométrique, l’obligation de transparence incombe aux déployeurs. Ceux-ci doivent informer les personnes physiques exposées au fonctionnement du système. Cette information doit viser toutes les personnes exposées, y compris les enfants et doit être fournie au plus tard au moment de la première exposition, la fourniture préalable étant encouragée. Les modalités peuvent varier selon le lieu de déploiement, les destinataires potentiels et l’existence d’une relation préalable avec ces personnes (ex: canal de communication déjà existant avec l’individu).
2. Une articulation nécessaire avec le droit des données personnelles
Cette exigence d’information s’articule avec les exigences issues du droit de l’Union en matière de protection des données personnelles, notamment en ajoutant les notifications requises au titre de l’article 50 §3 à la déclaration de confidentialité fournie aux personnes concernées.
En pratique, cela implique de ne pas traiter la transparence AI Act comme une mention isolée. Elle doit être intégrée dans une architecture d’information cohérente : politique de confidentialité, information sur site, affichage dans l’interface, documentation RH ou parcours d’information des personnes concernées.
Les notions de système de reconnaissance des émotions et de catégorisation biométrique sont précisées dans les lignes directrices de la Commission sur la classification des systèmes d’IA à haut risque, dont les explications et exemples sont pertinents aux fins de l’article 50 §3
Article 50 §4 – Deepfakes et textes d’intérêt public générés par IA
1. La notion de deepfake : une apparence faussement authentique ou véridique
Les lignes directrices précisent la définition de l’hypertrucage, ou deepfake, au travers plusieurs composantes. Le contenu doit présenter une ressemblance appréciable avec des personnes, objets, lieux, entités ou événements réels ou plausibles, existants ou susceptibles d’exister dans la réalité. Il doit également être susceptible d’apparaître faussement authentique ou véridique pour une personne, en tenant compte de la composition raisonnablement prévisible du public, notamment des enfants, personnes âgées ou personnes ayant une faible culture numérique ou IA.
Les modifications mineures ou purement techniques, comme des corrections ou ajustements esthétiques, ne constituent pas des hypertrucages lorsqu’elles n’affectent pas la perception de l’authenticité ou de la véracité du contenu.
2. Une divulgation à la charge du déployeur
Lorsqu’un système d’IA génère ou manipule des deepfakes, le déployeur doit divulguer que le contenu a été généré ou manipulé artificiellement. Un régime allégé est prévu pour certains contenus artistiques, créatifs, satiriques, fictifs ou analogues.
3. Le cas des textes publiés pour informer le public sur des questions d’intérêt public
L’article 50 §4 vise également certains textes générés ou manipulés par IA lorsqu’ils sont publiés dans le but d’informer le public sur des questions d’intérêt public. Les contenus visés sont les textes accessibles à un nombre indéterminé et suffisamment large de personnes, que le but d’informer le public consiste à communiquer des connaissances, opinions ou faits et que les questions d’intérêt public couvrent des sujets pertinents pour la société comme la politique, l’administration publique, la justice, la sécurité, la santé publique, l’environnement ou l’économie.
Une exception est prévue lorsque deux conditions cumulatives sont réunies : le texte généré ou manipulé par l’IA a fait l’objet d’une révision humaine ou d’un contrôle éditorial, et une personne physique ou morale assume la responsabilité éditoriale de la publication, avec une identité et des coordonnées rendues publiques.
Article 50 §5 – Comment fournir l’information : clarté, visibilité et temporalité
1. Une information claire et distincte
L’article 50 §5 impose une exigence horizontale : les informations doivent être fournies de manière claire et distincte. Selon le support, une information est claire lorsqu’elle est perceptible, facile à comprendre et accessible aux personnes concernées. Elle est distincte lorsqu’elle est identifiable comme séparée des autres informations et de l’environnement dans lequel le contenu est présenté. Elle doit également être adaptée au public concerné, notamment aux enfants et aux personnes en situation de handicap.
2. Ce qui ne suffit pas
Le support précise que les informations ne seront pas considérées comme fournies de manière claire et distincte lorsqu’elles figurent uniquement dans un manuel d’utilisation ou lorsqu’elles sont dissimulées derrière plusieurs niveaux de menus dans une interface en ligne.
3. Première interaction, première exposition et rappels contextuels
Les lignes directrices précisent également à quel moment cette information doit être communiquée afin qu’elle soit effectivement perçue par les personnes concernées.
La première interaction vise la première personne physique interagissant avec le système d’IA ou exposée à celui-ci ou à sa sortie, ainsi que toute première interaction ou exposition ultérieure d’une autre personne physique. La première exposition vise tout moment où une personne est raisonnablement susceptible d’être exposée à la sortie du système et de percevoir l’information divulguée. A noter, qu’une divulgation uniquement au début de la diffusion du contenu peut être insuffisante lorsqu’il est raisonnablement prévisible que certaines personnes n’y seront pas exposées dès le départ.
Par exemple, lorsqu’une vidéo en direct contient des deepfakes, il ne suffit pas d’informer les spectateurs au début de la diffusion ; l’information doit rester visible ou être rappelée régulièrement aux personnes qui arrivent en cours de diffusion.
Démontrer sa conformité : codes de bonnes pratiques, gap analysis et documentation
Les fournisseurs et déployeurs peuvent démontrer leur conformité aux articles 50 §2, 50 §4 et 50 §5 en adhérant à un code de bonnes pratiques sur la transparence des contenus générés par l’IA. L’adhésion à ce code constitue un moyen privilégié de démontrer la conformité, sans toutefois se substituer à l’AI Act ni aux lignes directrices.
Les acteurs non-signataires doivent démontrer leur conformité par d’autres moyens adéquats et justifier l’efficacité des mesures mises en œuvre. Ils sont encouragés à réaliser une analyse d’écarts entre leurs mesures de conformité et celles prévues par un code de bonnes pratiques jugé adéquat.
En pratique, les organisations devraient donc documenter au minimum : les systèmes d’IA concernés, leur qualification au regard de l’article 50, le rôle de l’organisation, les modalités d’information des personnes concernées, les solutions de marquage et de détection retenues, les exceptions appliquées, les tests réalisés, les arbitrages techniques et les éléments démontrant l’effectivité des mesures.
Conclusion : de la transparence déclarative à la transparence opérationnelle
L’article 50 de l’AI Act impose aux organisations de passer d’une transparence déclarative à une transparence opérationnelle. Il ne suffit plus d’affirmer qu’un système utilise de l’IA : il faut déterminer si l’utilisateur interagit directement avec le système d’IA, si un contenu synthétique est généré ou manipulé, si un deepfake est susceptible d’induire le public en erreur, ou encore si des personnes sont exposées à un système de reconnaissance des émotions ou de catégorisation biométrique.
Cette mise en conformité nécessite une approche structurée : cartographier les systèmes d’IA, qualifier les cas d’usage, identifier les obligations applicables, concevoir les messages d’information, choisir les modalités de marquage et de détection, et conserver la preuve des décisions prises.
👉 Avec Naaia, transformez les obligations de transparence de l’AI Act en un dispositif de gouvernance opérationnel : qualification des systèmes, identification des obligations applicables, pilotage des actions de conformité et traçabilité des décisions. Découvrez notre plateforme de management de l’IA pour anticiper l’entrée en application de l’article 50 et démontrer votre conformité en toute confiance.