Cet article a été rédigé sur la base de la dernière version du projet de la Convention-cadre sur l’intelligence artificielle, les droits de l’homme, la démocratie et l’État de droit en date du 18 décembre 2023. Les informations présentées peuvent donc varier à la marge par rapport à la version du texte qui sera finalement adoptée.
Le Comité sur l’intelligence artificielle (CAI) du Conseil de l’Europe négocie actuellement une nouvelle convention-cadre sur l’IA, les droits de l’homme, la démocratie et l’État de droit (« Convention-Cadre »).
Les 4 points clés à retenir :
- Des principes généraux communs aux règlementations occidentales publiées à date
- Un champ d’application qui rejoint celui de l’AI Act à l’exception de l’exclusion du secteur privé défendue par les Etats-Unis contre la Commission européenne
- Une approche fondée sur le risque des systèmes d’IA (« SIA ») d’ atteinte aux droits fondamentaux
- Une large marge de manœuvre laissée aux Etats signataires
Alors qu’il ne reste qu’un cycle de négociations avant son adoption prévue pour le début du mois de mai 2024, le risque est grand de voir le secteur privé exclu de son champ d’application. Une autre session du CAI est prévue du 11 au 14 mars 2024 avant que la Convention-Cadre ne soit finalisée.
Petit rappel sur le Conseil de l’Europe :
Le Conseil de l’Europe n’est pas un organe de l’Union européenne et ne doit être confondu ni avec le Conseil européen ni avec le Conseil de l’Union européenne. Il s’agit d’une organisation intergouvernementale qui a pour objectifs, entre autres, de défendre les droits de l’Homme, de promouvoir la diversité culturelle de l’Europe et de lutter contre les problèmes sociaux tels que la discrimination raciale et l’intolérance.
Il compte aujourd’hui 46 Etats membres, dont les 27 membres de l’Union européenne. Les Etats-Unis, le Canada, le Japon, le Saint Siège et le Mexique ont un statut d’observateurs.
En particulier, le Conseil de l’Europe a contribué à la création d’un espace juridique commun fondé sur la Convention européenne des droits de l’homme, à la mise en œuvre d’environ 25 000 arrêts de la Cour européenne des droits de l’homme et à l’élaboration de plus de 200 traités internationaux juridiquement contraignants, définissant des normes sur des questions telles que la violence à l’égard des femmes, les abus sexuels sur des enfants, la traite des êtres humains, la cybercriminalité et la protection des données.
La Convention-Cadre s’ajouterait donc à la liste de ces traités internationaux.
Quelles en sont les dispositions soumises à discussion cette semaine ?
Benchmark de la Convention-Cadre sur l’IA et l’AI Act
L’exclusion des SIA en R&D : A l’instar de l’IA Act qui exclut de son champ d’application les SIA spécifiquement développés et mis en service dans le seul but de la recherche scientifique et du développement, la recherche et le développement sont exclus du cadre de la Convention-Cadre, mais uniquement dans la mesure où elles n’interfèreraient pas avec les droits fondamentaux, la démocratie et l’Etat de droit.
L’exclusion des SIA utilisés à des fins de défense et de sécurité nationale : La défense et la sécurité nationales sont également exclues du champ d’application de la Convention, comme le prévoit l’IA Act (en plus de ceux développés ou utilisés à des fins militaires).
Mais une probable exclusion des SIA à haut risque relevant du secteur privé: finalement, et c’est le principal point d’achoppement et de différence majeure avec l’AI Act: les négociateurs doivent encore décider si la convention (a) s’appliquera uniquement à l’utilisation des systèmes d’IA par les autorités publiques et les entités agissant en leur nom, ou s’il (b) s’appliquera également à l’IA à haut risque dans le secteur privé.
La Convention-Cadre impose deux obligations générales : des mesures doivent être adoptées et maintenues par les Etats (1) pour garantir la compatibilité des SIA avec les obligations nationales et internationales en matière de droits de l’homme et (2) pour protéger la participation aux processus démocratiques.
Le texte prévoit en outre huit principes généraux que les Etats doivent intégrer dans leur propre système juridique national et qui sont communs aux instruments juridiques occidentaux déployés à date, contraignants ou non : l’AI Act, l’Executive Order du Président Biden, le « Blueprint for an AI Bill of rights », les principes dégagés par l’OCDE, par le processus d’Hiroshima ou la déclaration de Betchley:
-la dignité humaine et l’autonomie individuelle,
-la transparence et le contrôle,
-l’explicabilité et la responsabilité,
-l’égalité et la non-discrimination,
-la protection de la vie privée et des données à caractère personnel,
-la préservation de la santé et de l’environnement,
– la fiabilité et la confiance,
-l’innovation sûre.
A l’instar de l’IA Act, une approche fondée sur les risques des SIA (en particulier les systèmes d’IA à haut risque sont encadrés) dont le potentiel porterait atteinte aux valeurs de la Convention-cadre
Le texte consacre un chapitre spécifique à l’évaluation et à l’atténuation des risques par la mise en place de mesures réponsant à huit exigences relatives aux SIA prévues également par l’AI Act :
-Exigence 1 – prendre dûment en compte le contexte et l’utilisation prévue du SIA ;
-Exigence 2 – tenir compte de la gravité, de la durée et de la réversibilité des risques potentiels et des impacts négatifs liés au SIA ;
-Exigence 3 – intégrer le point de vue de toutes les parties prenantes concernées, y compris toute personne dont les droits pourraient être affectés par le SIA au long de son cycle de vie ;
– Exigence 4 – exiger l’enregistrement, le suivi et la prise en compte des impacts négatifs résultant de l’utilisation des SIA ;
– Exigence 6 – veiller à ce que les processus de gestion des risques et des incidences soient menés de manière itérative tout au long de la conception, du développement, de l’utilisation ou de la mise hors service du système d’intelligence artificielle
-Exigence 6 – exiger que les processus de gestion des risques et des incidences soient dûment documentés ;
-Exigence 7 – exiger, le cas échéant, la publication des informations relatives aux efforts déployés pour identifier, évaluer, atténuer et prévenir les risques et les impacts négatifs ;
– Exigence 8 – exiger la mise en œuvre de mesures de prévention et d’atténuation suffisantes pour faire face aux risques et aux incidences négatives identifiés y compris, le cas échéant, l’obligation de procéder à des essais préalables du système avant qu’il ne soit mis à disposition pour une première utilisation.
Qui laisse la responsabilité aux Etats parties de légiférer sur les risques liés à l’usage des SIA
Les systèmes d’IA à moindre risque sont exclus du champ d’application de la convention et ne fournit pas de liste distincte de systèmes d’IA interdits.
En revanche, elle autorise les parties à adopter des moratoires, des interdictions ou d’autres mesures concernant certaines utilisations de systèmes d’IA jugées incompatibles avec les droits de l’homme, la démocratie et l’État de droit, laissant la décision d’interdire des applications spécifiques de l’IA à la discrétion des États contractants.
Comment s’articuleront la Convention sur l’IA et le règlement de l’IA Act ?
Le projet de Convention-Cadre est ouvert à la signature puis à la ratification des Etats parties, des Etats non-membres qui ont participé à son élaboration et des Etats membres de l’Union européenne.
Contrairement à l’IA Act, elle ne confère pas directement de droits ou n’impose pas d’obligations aux personnes physiques ou aux organisations privées. Sa fonction première est de lier les États signataires et les autres organisations internationales à la convention.
L’entrée en vigueur des dispositions de l’IA Act dans les législations des Etats membres de l’Union Européenne ne constituera pas une adhésion automatique aux exigences de la Convention-cadre. Chacun des 27 Etats Membres qui le souhaite devra la signer, la ratifier et s’engager à mettre en œuvre les principes spécifiques aux droit de l’homme, à la démocratie et à l’état de droit issus de cette dernière.
Étant donné que le texte en est encore à l’état de projet et qu’il n’est pas encore juridiquement contraignant, son application future dépendra donc de la manière dont il sera ratifié et intégré dans les législations nationales des parties.
