Convention sur l’intelligence artificielle : Respect des droits de l’homme et de la démocratie
Cette publication fait partie de notre série Perspectives sur l’intelligence artificielle, rédigée par le groupe du droit de l'IA de McCarthy Tétrault – vos partenaires de choix pour vous aider à mieux vous y retrouver dans cet environnement complexe et dynamique. Cette série vous présente des perspectives pratiques et intégratives sur la façon dont l'IA transforme les secteurs industriels, et vous explique comment vous pouvez garder une longueur d'avance. Vous pouvez consulter les autres publications de cette série en cliquant ici ou en visitant notre page Web consacrée à l'intelligence artificielle en cliquant ici.
Le 5 septembre 2024, les principaux partenaires commerciaux du Canada, notamment les États-Unis, le Royaume-Uni et l’Union européenne, ont signé la Convention-cadre du Conseil de l’Europe sur l’intelligence artificielle et les droits de l’homme, la démocratie et l’État de droit (STCE 225). La Convention sur l’intelligence artificielle (IA) est importante. En effet, elle énonce un cadre juridique complet qui vise à garantir que les activités menées dans le cadre du cycle de vie des systèmes d’IA respectent les droits de l’homme, les valeurs démocratiques et l’État de droit. Bien que le Canada ait participé à la négociation de la Convention, il ne l’a pas signée et n’a pas annoncé de consultation sur la possibilité de signer et de ratifier la Convention. Il est d’autant plus important de relever que, tandis que le gouvernement fédéral a pris des mesures importantes en ce qui concerne l’utilisation de l’IA au sein du gouvernement, à ce jour, les initiatives du Canada visant à réglementer l’IA à l’aide de la (très critiquée) LIAD et les médias sociaux au moyen de la Loi sur les préjudices en ligne sont tout à fait insuffisantes pour donner pleinement effet à la Convention.
Qu’est-ce que la Convention sur l’intelligence artificielle et les droits de l’homme, la démocratie et l’État de droit
Selon le Rapport explicatif de la Convention-cadre du Conseil de l’Europe sur l’intelligence artificielle et les droits de l’homme, la démocratie et l’État de droit (la « Convention sur l’IA » ou la « Convention »), la Convention a pour objectif fondamental de veiller à ce que le potentiel des technologies de l’intelligence artificielle pour promouvoir la prospérité humaine, le bien-être des individus et de la société ainsi que pour rendre notre monde plus productif, plus innovant et plus sûr, soit exploité d’une manière responsable qui respecte, protège et réalise les valeurs communes et respecte les droits de l’homme, la démocratie et l’État de droit. En conséquence, la Convention sur l’IA énonce une série d’obligations juridiquement contraignantes qui visent à garantir que les activités menées dans le cadre du cycle de vie des systèmes d’intelligence artificielle qui sont susceptibles de porter atteinte au respect des droits de l’homme, au fonctionnement de la démocratie ou à la primauté de l’État de droit, tant dans le secteur public que dans le secteur privé, soient pleinement conformes à la Convention.
La Convention sur l’IA exige des parties qu’elles adoptent des mesures législatives, administratives ou autres pour garantir que les systèmes d’IA ne portent pas atteinte aux droits de l’homme, à l’intégrité démocratique ou à l’État de droit. Elle prévoit une approche graduée et différenciée, ce qui signifie que les mesures prises doivent correspondre à la gravité et à la probabilité de l’apparition d’effets négatifs de l’IA.
Les principales caractéristiques de la Convention sur l’IA sont, entre autres, les suivantes :
- Protection des droits de l’homme : Cela comprend le maintien des accords existants en matière de droits de l’homme, la garantie que les données personnelles sont utilisées de manière appropriée, que la vie privée est respectée et que l’IA n’est pas utilisée pour faire de la discrimination.
- Protection de l’intégrité des institutions démocratiques : Cela comprend notamment de protéger les institutions démocratiques et de s’assurer que l’IA ne leur porte pas atteinte. Elle interdit l’utilisation de systèmes d’intelligence artificielle pour interférer avec les processus démocratiques, tels que les élections. Il s’agit notamment de restreindre la capacité d’acteurs malveillants à diffuser des informations erronées et de la désinformation pour porter atteinte à l’intégrité de l’information et saper la confiance du public. Chaque partie doit adopter ou maintenir des mesures visant à protéger ses processus démocratiques dans le cadre des activités liées au cycle de vie des systèmes d’intelligence artificielle, y compris l’accès et la participation équitables des individus au débat public, ainsi que leur capacité à se forger librement une opinion.
- Respect de l’État de droit : Chaque partie doit adopter ou maintenir des mesures visant à garantir que les systèmes d’intelligence artificielle ne sont pas utilisés pour porter atteinte à l’intégrité, à l’indépendance et à l’efficacité des institutions et processus démocratiques, y compris le principe de la séparation des pouvoirs, le respect de l’indépendance judiciaire et l’accès à la justice.
Le champ d’application de la Convention sur l’IA s’étend aux activités menées tout au long du cycle de vie des systèmes d’IA, et couvre à la fois les acteurs publics et privés. L’article 3 précise la portée de la Convention dans le secteur privé. La Convention s’applique aux activités d’IA menées par les autorités publiques, ainsi que par les acteurs privés agissant au nom de ces autorités. En outre, la Convention sur l’IA, « requiert de toutes les Parties qu’elles répondent aux risques et aux impacts relatifs aux droits de l’homme, à la démocratie et à l’État de droit dans le secteur public également en ce qui concerne les acteurs privés dans la mesure où ils ne sont pas couverts » par l’obligation précédente. (Tout ce qui est englobé n’est pas tout à fait clair.)
Bien que la convention sur l’IA s’applique de manière générale, elle prévoit certaines exceptions. Par exemple, les activités liées à la sécurité nationale sont exclues de son champ d’application, à condition qu’elles soient conformes au droit international en matière de droits de l’homme. La défense est également exclue du champ d’application de la Convention. En outre, les activités de recherche et de développement liées à des systèmes d’IA qui n’ont pas encore été rendus disponibles sont exclues du champ d’application de la Convention, sauf si ces activités interfèrent avec les droits de l’homme ou les processus démocratiques.
Le Canada a-t-il l’intention de ratifier et d’adopter la Convention sur l’AI?
Le Canada a participé aux négociations menant à la rédaction de la Convention sur l’IA. C’est une bonne chose qui permet de présumer que le Canada serait disposé à signer et à ratifier la Convention, même si, pour autant que je sache, le gouvernement n’a pas annoncé s’il le ferait et quand il le ferait, ni comment il mettrait en œuvre les obligations au titre de la Convention.
Le Canada a lancé de nombreuses consultations. Néanmoins, l’adhésion éventuelle à la Convention et les modalités de sa mise en œuvre n’ont pas encore fait l’objet de consultations. Deux articles de la Convention sur l’IA sont pertinents sur ce point.
- L’article 19 exige une « consultation publique ». « Chaque Partie vise à garantir que les questions importantes soulevées par les systèmes d’intelligence artificielle sont, le cas échéant, dûment examinées dans le cadre d’un débat public et de consultations multipartites, à la lumière des incidences sociales, économiques, juridiques, éthiques, environnementales et des autres implications pertinentes. »
- L’alinéa 1b) de l’article 3 stipule que « Chaque Partie précise dans une déclaration soumise au Secrétaire Général du Conseil de l’Europe, au moment de la signature ou lors du dépôt de son instrument de ratification, d’acceptation, d’approbation ou d’adhésion, la manière dont elle entend mettre en œuvre cette obligation, soit en appliquant les principes et obligations énoncés aux chapitres II à VI de la présente Convention aux activités des acteurs privés, soit en prenant d’autres mesures appropriées pour satisfaire à l’obligation prévue au présent alinéa ».
La LIAD a été déposée dans le cadre du Projet de loi C-27 sans faire l’objet d’une consultation publique officielle. Elle a été largement critiquée à la fois sur son fond (ou son absence de fond) et le fait qu’elle a été déposée sans consultation publique préalable. Il faut espérer que le gouvernement ne répétera pas cette erreur avec la Convention sur l’IA.
Le gouvernement du Canada a fait des progrès dans la réglementation de l’utilisation de l’IA au sein du gouvernement. Il a notamment publié le Guide sur l’utilisation de l’intelligence artificielle générative, la Directive sur la prise de décisions automatisée et l’Outil d’évaluation de l’incidence algorithmique. Le gouvernement s’est également engagé publiquement « à veiller à l’utilisation efficace et éthique de l’IA », d’une manière conforme à l’approche partagée des Nations numériques envers l’IA. De plus, le gouvernement a récemment lancé la Consultation publique sur la stratégie du gouvernement du Canada en matière d’intelligence artificielle pour la fonction publique du Canada (16 septembre 2024).
Malgré tout cela, il n’est pas du tout certain que le gouvernement a l’intention de mener des consultations sur la Convention sur l’IA, d’adopter une loi ou de mettre en œuvre d’autres mesures pour garantir que les principes généraux de la Convention sur l’IA seront respectés. La LIAD, par exemple, n’y répond pas, car elle se limite à réglementer l’IA dans le secteur privé, alors qu’elle pourrait englober les systèmes d’IA mis à la disposition des institutions publiques, tels que les systèmes utilisés dans les soins de santé, les interventions d’urgence ou par le système judiciaire. En outre, dans la Loi sur les préjudices en ligne, qui traite de la sécurité en ligne, on semble avoir délibérément évité de s’attaquer aux menaces pesant sur les droits de l’homme, la démocratie ou l’État de droit, y compris dans le secteur public.
La Convention sur l’intelligence artificielle (IA) est importante. On peut espérer que le Canada se penchera sur la question et prendra les mesures appropriées pour consulter la population et mettre en œuvre les principes de la Convention.
Cet article a été initialement publié sur le site barrysookman.com (en anglais seulement).