Le Conseil de l'Europe adopte le premier traité international juridiquement contraignant sur l'Intelligence Artificielle.

Tout le monde parle du règlement européen "IA Act", mais avez-vous vu passer l’adoption par le Conseil de l’Europe du premier traité international juridiquement contraignant sur l’intelligence artificielle ?

Contexte :

Le 17 mai 2024, le Conseil de l’Europe (à ne surtout pas confondre avec le Conseil de l’Union Européenne, ni avec le Conseil européen) a adopté à Strasbourg la Convention-cadre sur l’intelligence artificielle et les droits de l’homme, la démocratique et l’Etat de droit.

Pour rappel, le Conseil de l’Europe est la principale Organisation Internationale de défense des droits humains du continent européen. A ce titre, la ratification de la Convention Européenne des droits de l’homme est une condition indispensable pour tout Etat souhaitant adhérer à l’Organisation. Les 46 Etats membres du Conseil de l’Europe, dont la Russie a été exclue en mars 2022, l’ont ratifiée (l’Union Européenne elle-même devrait également le faire prochainement). La CEDH est la pierre angulaire des activités de l’Organisation.

Un traité international sur l’IA ?

Il y a quelques jours, le Conseil de l’Europe a donc adopté le premier traité international juridiquement contraignant visant à garantir le respect des normes juridiques en matière de droits de l’homme, de démocratie et d’Etat de droit dans le cadre du recours aux systèmes d’intelligence artificielle (IA).

Le traité poursuit l’objectif principal de réduire les risques que l’intelligence artificielle présente sur les droits humains, en continuant de tirer parti de ses avantages technologiques.

Hasard du calendrier (ou pas), l’adoption de cet instrument intervient quatre jours seulement avant l’adoption par l’Union Européenne du règlement “IA Act” que nous avons déjà analysé, et qui consacre une approche “par le risque” et par catégories des systèmes d’intelligence artificielle : ce qui est interdit, ce qui est à haut risque, ce qui est à moyen risque, ce qui est autorisé.

Le Conseil de l’Europe, plus courageusement que l’Union Européenne, tire le constat selon lequel, désormais utilisés dans une grande variété de domaines tels que l’accès aux prestations sociales, la police, la justice, les ressources humaines (...), les systèmes d’intelligence artificielle sont porteurs de risques pour les droits fondamentaux : surveillance généralisée et atteinte à la vie privée, discrimination(s), limitation de la liberté d’expression, notamment.

Ainsi, son champ d’application ratione personae (“en fonction des personnes”) est le plus large possible : le traité s’applique à l’utilisation des systèmes d’IA par les pouvoirs publics, incluant les entreprises qui agissent pour leur compte, et par les acteurs privés.

Et sur le fond ?

La Convention met en œuvre un cadre juridique qui s’applique tout au long du cycle de vie des systèmes d’IA, en adoptant, elle aussi, une approche fondée sur les risques. Elle ne s’appliquera pas, néanmoins, aux questions de défense nationale, ni aux activités de recherche et de développement, sauf si la mise à l’essai de systèmes d’IA est susceptible d’interférer avec les droits de l’homme, la démocratie et/ou l’Etat de droit.

A ce titre, elle pose une obligation générale à la charge des Parties de veiller à respecter leurs obligations de protection des droits de l’homme, telles que consacrées par le droit international applicable et leur droit interne, et dans toutes les activités menées dans le cadre du cycle de vie des systèmes d’intelligence artificielle. Cette exigence est posée, sans débat possible, comme une obligation de résultat.

Les Etats Parties devront par ailleurs garantir que les systèmes d’IA ne sont pas utilisés pour porter atteinte à l’intégrité, à l’indépendance et à l’efficacité des institutions et processus démocratiques, y compris, notamment, au principe de la séparation des pouvoirs, au respect de l’indépendance de la justice et de l’accès à la justice.

La suite de la Convention énonce ensuite les principes généraux communs que les Parties doivent mettre en œuvre à l’égard des systèmes d’IA :

La dignité humaine et l’autonomie personnelle
La transparence et le contrôle adaptés aux contextes et aux risques
L’obligation d’assumer une responsabilité en cas d’impact négatif sur les droits de l’homme
Le respect de l’égalité et de la non-discrimination
Le respect de la vie privée et de la protection des données à caractère personnel
La Mise en place d’exigences en matière de qualité et de sécurité
Assurer le cadre d’une innovation sûre

En outre, et c’est là un point très intéressant, la Convention oblige les Parties à adopter - ou à maintenir lorsqu’elles existent -, les voies de recours accessibles et adaptées, permettant à tous de revendiquer les violations des droits de l’homme résultant des activités menées dans le cadre du cycle de vie des systèmes d’intelligence artificielle.

Pour approfondir davantage le contenu de la Convention, le Conseil de l’Europe a mis à disposition un rapport explicatif : https://search.coe.int/cm#_Toc161822243

Le texte de la Convention lui-même est également accessible : https://rm.coe.int/1680afae3d