Prévenir les hallucinations d’IA — Les tribunaux de l’Ontario donnent leur avis

Les faits ont de l’importance. Peut-être pas toujours... du moins devant le tribunal de l'opinion publique. Mais devant une cour de justice, ils règnent en maîtres ꟷ peu importe que ces faits soient malheureux pour les avocats.

Le juge Myers de la Cour supérieure de justice de l’Ontario a rappelé sans ambages ce principe dans la décision rendue le 20 mai, Ko v. Li (2025 ONSC 2965). Comme nous l'avions déjà rapporté, le juge Myers avait ordonné à l’avocate, qui s'était fondée sur des décisions hallucinées par l’IA dans un mémoire et des plaidoiries présentés devant lui, d'assister à une audience de justification afin de déterminer si elle devait ou non être reconnue coupable d’outrage au tribunal pour avoir enfreint le paragraphe 4.06.1 (2.1) des Règles de procédure civile, qui exige que l’avocat atteste de l'authenticité des éléments de doctrine et de jurisprudence cités dans son mémoire.

Dans sa décision du 20 mai, le juge Myers fait état des mesures prises par l’avocate en cause pour répondre aux préoccupations de la Cour :

• Avant la conférence de planification de l’audience de justification, l’avocate en cause :
  • avait remis à la Cour une lettre confirmant les soupçons du juge Myers selon lesquels son mémoire et ses observations contenaient de fausses décisions de jurisprudence hallucinées par ChatGPT, et s’excusant de cette erreur;
  • s’engageait à suivre une FPC sur l’éthique et la technologie en droit;
  • présentait ses excuses pour la « [traduction] grave erreur de jugement » qu’elle avait commise et en assumait l'entière responsabilité.
• Au cours de l’audience de justification elle-même, et malgré un rappel préalable du juge Myers selon lequel les audiences pour outrage constituent des procédures criminelles, de sorte qu’elle avait le droit d’être représentée par un avocat, ce qu’il l’invitait à faire, l’avocate a déclaré qu’elle n’avait pas retenu les services d’un avocat pour la représenter parce qu’elle estimait que le fait d’assumer son erreur ouvertement et avec honnêteté devrait lui permettre d’éviter des sanctions de la part de la cour.
• Elle a ensuite demandé à faire une déclaration, au cours de laquelle elle s’est de nouveau excusée de son erreur, expliquant qu’elle s’était fiée à son personnel pour l’aider à préparer certains documents dans des affaires comme celles-ci — des affaires où son ou sa client(e) ne pouvait offrir qu’une rémunération très modeste, mais qu’elle prenait en raison d’un profond engagement au service à sa communauté.

La juge Myers a conclu que l’avocate, en se défendant si clairement devant un tribunal, en séance publique, avait « [traduction] purgé tout éventuel outrage au tribunal qui pouvait être déclaré ». Il a estimé qu'il était convaincant que l’avocate ait reconnu que son « [traduction] erreur ne consistait pas à avoir délégué la rédaction du mémoire ou d’avoir utilisé l’IA générative pour ce faire... [mais] à avoir signé, livré et utilisé le mémoire sans vérifier l’authenticité des décisions qui y étaient citées ».

Avant la fin de la décision, le juge Myers exprime les enjeux existants à l'intersection du droit et de l'IA, et nous rappelle que le rôle essentiel des êtres humains est de séparer les faits de la fiction :

« [Traduction] il fallait bien que quelqu'un(e) soit le premier ou la première avocat(e) à déposer des hallucinations d’IA devant cette cour. Il fallait probablement que ce soit quelqu’un(e) d’aussi inexpérimenté(e) au point de surestimer l'infaillibilité de l'IA, ou d’aussi expérimenté(e) au point de ne pas encore réellement saisir sa faillibilité. [L'avocate] a subi une honte publique au terme d'une carrière sans anicroche. La dénonciation et l'effet dissuasif ont donné lieu à une réaction immédiate et sans équivoque de sa part, bien au-delà de toute incidence raisonnablement attendue d'une amende de faible montant ».

L’honorable juge a choisi, après avoir transmis un message clair, de « [traduction] retirer l’ordonnance visant une audience de justification et de la déclarer satisfaite ».