Skip to content.

Utilisation responsable de l’intelligence artificielle dans le secteur financier : l’Autorité des marchés financiers dévoile son rapport

Utilisation responsable de l’intelligence artificielle dans le secteur financier : l’Autorité des marchés financiers dévoile son rapport

Le 22 novembre 2021, l’Autorité des marchés financiers (l’« AMF ») a publié un rapport intitulé « L’intelligence artificielle en finance : Recommandations pour une utilisation responsable » (le « Rapport »). Le Rapport, préparé à la demande et avec l’appui financier de l’AMF par Algora Lab (Université  de Montréal) en collaboration avec certains partenaires[1], présente une analyse des risques et défis éthiques liés à l’utilisation de l’intelligence artificielle (l’« IA ») dans le secteur de la finance et émet dix recommandations clés relativement à l’utilisation responsable de l’IA dans ce secteur. Trois de celles-ci s’adressent directement à l’AMF et les sept autres s’adressent aux acteurs de l’industrie (voir la liste complète à la fin de cet article, sous le titre « Les 10 Recommandations clés »).

Le présent article vise à présenter les grandes lignes du Rapport et les éléments essentiels à considérer pour les acteurs de l’industrie financière.

Contexte et pertinence

Le recours à l’IA et à l’apprentissage automatique (machine learning) est de plus en plus fréquent au sein du secteur financier, particulièrement dans les domaines de l’assurance, du crédit et de la gestion d’actifs. L’IA, grâce aux méthodes d’apprentissage automatique, permet d’automatiser ou d’optimiser certaines tâches afin d’améliorer l’efficacité et la précision des processus opérationnels et décisionnels[2]. Le déploiement des systèmes d’IA (les « SIA ») suscite néanmoins de nombreux risques et enjeux éthiques, juridiques, réputationnels et sociétaux.

La préparation du Rapport s’inscrit dans un désir de l’AMF d’exercer un leadership de réflexion et d’action autour de ces enjeux. De tels enjeux font d’ailleurs l’objet d’une attention grandissante à l’échelle internationale, que ce soit à travers la publication de recommandations informelles par certaines institutions ou organisations internationales[3] ou l’émergence de projets d’instruments contraignants[4].

Dans un contexte où l’élaboration d’un cadre normatif et juridique entourant l’utilisation de l’IA en finance au Québec et au Canada en est encore à ses débuts, les acteurs de l’industrie financière concernés par l’utilisation des SIA devraient porter une attention particulière aux sujets de réflexion et conclusions du Rapport, lesquels guideront assurément les développements et discussions à venir dans les prochaines années entre le législateur, le régulateur, les différents acteurs de l’industrie et le public.

Le Rapport étant le fruit non seulement de consultations auprès d’institutions financières québécoises et canadiennes, mais également de délibérations avec les citoyens et consommateurs, le Rapport se veut au surplus un outil à la disposition des acteurs de l’industrie afin d’anticiper les attentes et préoccupations de leurs clients et du public en la matière.

Enjeux et principes d’utilisation responsable

Le Rapport souligne que les institutions financières identifient comme principaux enjeux la protection des données personnelles et l’équité en tant que principe de non-discrimination, alors que les consommateurs sont quant à eux davantage inquiets des enjeux du respect de l’autonomie, de la promotion de leur bien-être (incluant le respect de la vie privée), l’engagement pour l’équité sociale et la responsabilité humaine[5].

Suite à l’analyse des enjeux identifiés, le Rapport se penche sur le cadre de référence qui devrait guider l’évaluation des SIA dans le secteur financier, en abordant les principes identifiés dans divers de cadres de référence en éthique de l’IA. Parmi certains des principes les plus importants à considérer, le Rapport mentionne[6] :

  • Vie privée: La protection des données personnelles et le contrôle de telles données sont centraux dans les discussions relatives à l’utilisation des SIA. Les renseignements personnels des consommateurs ne doivent pas être exploités de façon illégitime et les consommateurs doivent conserver un contrôle sur l’utilisation de leurs données.
  • Équité et non-discrimination : Les clients ne doivent pas faire l’objet de discrimination (au sens d’un traitement différent) sur la base de critères non pertinents, c’est-à-dire que les décisions prises à l’aide des SIA ne doivent pas avantager ou désavantager certains individus ou groupes d’individus sans justification. Par ailleurs, l’utilisation des SIA ne doit pas amplifier les inégalités socio-économiques.
  • Autonomie : Les consommateurs doivent obtenir toute l’information pertinente sur les SIA pour donner un consentement éclairé. Au surplus, ils ne doivent pas se voir contraints dans leurs choix, modes de vie ou croyances.
  • Transparence et explicabilité: Le consommateur doit avoir l’information nécessaire sur le processus décisionnel qui l’affecte (incluant de savoir si une décision a été prise par un SIA ou à la suite d’une recommandation d’un SIA, quelles données ont été utilisées, etc.). Par ailleurs, toute décision affectant un consommateur doit pouvoir être expliquée (il faut pouvoir démontrer que si un humain avait été requis de prendre la décision avec les mêmes données, la décision aurait été identique ou similaire à celle du SIA). L’institution financière qui utilise un SIA qu’elle n’a pas elle-même développé doit par ailleurs connaitre le fonctionnement de ce SIA, et ses objectifs et résultats attendus.
  • Responsabilité et reddition de comptes : Une responsabilité humaine doit être maintenue dans le cadre de l’utilisation des SIA lorsqu’il s’agit d’une décision affectant un consommateur.

Que doivent retenir les acteurs de l’industrie ?

Bien que les recommandations contenues au Rapport constituent des propositions d’encadrement (et ne comportent aucun caractère contraignant pour les acteurs de l’industrie tant qu’aucune action spécifique n’est prise par le législateur ou le régulateur), les institutions financières et gestionnaires de portefeuille utilisant des SIA ou souhaitant en utiliser ont intérêt à prendre connaissance du Rapport, susciter des réflexions et discussions au sein de leur organisation en matière d’utilisation responsable des SIA et se montrer proactifs dans l’établissement de bonnes pratiques en la matière.

Voici nos trois principales constatations suite à notre analyse du Rapport.

  1. Évaluer en amont la pertinence des SIA

Sur la base du Rapport, les acteurs des marchés financiers devraient évaluer en amont les objectifs des SIA qu’ils souhaitent déployer, et leur pertinence par rapport à la mission de l’institution et les attentes des clients. Le recours à l’IA doit être justifié par les activités de l’institution et doit permettre d’atteindre des objectifs précis tels que la réduction des risques d’investissement ou l’optimisation de certaines fonctions. Les acteurs des marchés financiers doivent également s’assurer que l’utilisation de SIA ne nuit pas à la stabilité des marchés et se montrer particulièrement vigilantes quant à l’efficacité, la robustesse et la sécurité de leurs SIA.

  1. Adopter une approche respectueuse des principes éthiques

Dans le cadre du déploiement de l’IA, les institutions financières devraient aller plus loin que la conformité légale et considérer, dans l’évaluation de leurs pratiques, les principes éthiques pertinents (incluant ceux discutés à la section précédente).

Le Rapport souligne notamment que, dans le domaine de l’assurance, une attention particulière doit être portée aux mécanismes d’incitation vertueuse. Ces mécanismes, qui sont des interactions avec les utilisateurs visant à influencer (ou exercer des pressions pour influencer) leurs comportements (p. ex. l’évaluation des comportements des assurés pour encourager des pratiques plus saines ou prudentes), doivent respecter le principe de l’autonomie des consommateurs. Nous pensons par exemple aux systèmes de récompenses en matière de tarification des produits d’assurance automobile pour encourager des comportements routiers sécuritaires. Le Rapport souligne que l’utilisation de tels mécanismes doit servir de ressource pour promouvoir le bien des consommateurs, et ne doit pas sanctionner des comportements qui ne sont pas interdits par la loi. Dans ce contexte, le Rapport met en lumière que les mécanismes d’incitation vertueuse suscitent davantage de questionnements dans le domaine de l’assurance de personnes (santé) (où les comportements de vie ne sont pas soumis à des obligations légales sauf exception) que dans le domaine de l’assurance automobile (où l’incitation relève essentiellement du respect d’obligations légales ou réglementaires) [7].

La conformité éthique peut d’ailleurs être favorisée par l’adhésion volontaire à des cadres de référence non contraignants tels que la Déclaration de Montréal pour un développement responsable de l’intelligence artificielle (2018) ou certaines initiatives issues d’organismes d’autoréglementation, par exemple les lignes directrices publiées en 2021 par l’International Organisation of Securities Commissions ou les recommandations du Conseil de l’organisation de coopération et de développement économiques émises en 2019.

  1. Adopter des mécanismes de gouvernance et de contrôle appropriés

Afin de garantir le respect des principes mentionnés ci-dessus, les institutions financières devraient adopter des mécanismes de gouvernance et de contrôle interne concrets sur l’utilisation de l’IA. Un tel cadre de gouvernance devrait permettre de conserver une responsabilité humaine dans le processus décisionnel et de rendre compte de l’utilisation des SIA.

Concrètement pour les acteurs du marchés, cela peut notamment passer par l’adoption de codes d’éthique applicables aux professionnels chargés de développer ou d’utiliser des SIA au sein de l’organisation, la création d’équipes chargées d’effectuer des contrôles et évaluation d’impact sur les SIA utilisées par l’institution (ou l’ajustement du rôle et fonctions de comités d’éthique déjà en place au sein de l’organisation), la création d’une instance dédiée à la reddition de compte relativement à l’utilisation des SIA à travers les départements de l’institution, la formation et la sensibilisation des employés aux enjeux relatifs à l’IA ainsi que la consultation des consommateurs pour s’assurer de l’acceptabilité des SIA utilisés.

Pour savoir comment notre équipe peut vous appuyer dans la mise à jour de vos pratiques de gouvernance et de contrôle existantes, ou comment vous préparer aux futures initiatives réglementaires liées au déploiement des SIA, nous vous invitons à contacter Sonia Struthers, responsable régionale du groupe Réglementation des valeurs mobilières et des produits financiers, et Charles S.  Morgan, co-responsable national du groupe Cyber/Données.

****

Les 10 Recommandations clés

  1. Le régulateur doit adopter un cadre modèle de l’utilisation responsable de l’IA en finance. En proposant des valeurs et des principes, ce cadre permettra aux institutions financières d’aligner leurs codes d’éthique de l’utilisation de l’IA et d’identifier les pratiques non acceptables.
  2. Le régulateur doit entamer une concertation avec les parties prenantes pour définir les sources et les types de données qu’il est légitime d’utiliser pour faire fonctionner les SIA, et ce indépendamment de la question de la protection des renseignements personnels.
  3. Le régulateur doit faciliter la formation des acteurs financiers aux principes de l’IA responsable conformément au cadre normatif qu’il a établi. Le régulateur doit également développer des programmes d’éducation (ressources en ligne) des consommateurs et de leurs représentants associatifs.
  4. En amont du développement et de l’utilisation de l’IA, les institutions financières doivent évaluer sa pertinence par rapport à leur mission et aux attentes de leurs clients.
  5. Les institutions financières doivent adopter un cadre de gouvernance spécifique à l’utilisation de l’IA qui permette d’attribuer une responsabilité humaine aux décisions prises par un SIA, ou en accord avec ses recommandations, et de rendre compte de l’utilisation de l’IA.
  6. Dans la mesure où l’utilisation de l’IA augmente considérablement le volume des décisions et diminue le contrôle des consommateurs, les institutions financières doivent adapter leurs procédures de contestation et de recours afin de faciliter les démarches des consommateurs. En cas de différends, elles doivent proposer des mécanismes souples et rapides de résolution des différends, entre autre, la médiation.
  7. Le cadre de l’utilisation responsable de l’IA en finance doit faciliter l’adoption de procédures de certification et d’audit des SIA.
  8. Les institutions financières doivent s’assurer que les SIA satisfont au principe de résilience en étant efficaces, robustes et sécuritaires, afin de contribuer à la stabilité des marchés financiers.
  9. Les institutions financières doivent s’assurer que l’utilisation de SIA ne porte pas atteinte à l’équité, c’est-à-dire à l’égalité de traitement des consommateurs, leurs clients actuels ou potentiels. En particulier, elles doivent éviter de renforcer les discriminations et les inégalités économiques.
  10. Les institutions financières doivent s’assurer que l’utilisation de SIA respecte l’autonomie des consommateurs en communiquant toute l’information requise pour consentir de manière libre et éclairée, en leur fournissant des justifications des décisions prises à l’aide d’algorithme dans un langage clair, et en respectant la diversité des modes de vie.

 

 

 

 

 

[1] Le Rapport identifie les partenaires/contributeurs suivants : l’Observatoire international sur les impacts sociétaux de l’IA et du numérique, le Centre interuniversitaire de recherche en analyse des organisations (CIRANO) et Polytechnique Montréal.

[2] Pour en lire davantage sur les quatre principales fonctions de l’IA dans le secteur financier identifiées dans le Rapport, voir  le Rapport, pp. 9, et 18-31.

[3] Voir notamment (i) Recommandation sur l’intelligence artificielle, Conseil de l’organisation de coopération et de développement économiques, 21 mai 2019; (ii) The use of artificial intelligence and machine learning by market intermediaries and asset managers; Final Report, The Board of the International Organization of Securities Commissions, Septembre 2021; (iii) Ethically Aligned Designs, The Institute of Electrical and Electronics Engineers, 2019; (iv) Responsible AI: A Global Policy Framework; and (v) Responsible AI: A Global Policy Framework 2021 Edition.

[4] À ce sujet, nous vous invitons à consulter notre analyse de la proposition de règlement du parlement européen et du conseil visant à établir des règles harmonisées concernant l’intelligence artificielle (en anglais seulement).

[5] Rapport, pp. 32 à 34.

[6] Rapport, pp. 44 et ss.

[7] Rapport, pp. 55 et 56.

Authors

Subscribe

Stay Connected

Get the latest posts from this blog

Please enter a valid email address