La promesse et le péril de l'aide juridique par l'IA

On présente largement l'intelligence artificielle comme un moyen d'aider les personnes qui n'ont pas les moyens d'engager un avocat. L'idée est intuitive : la plupart des gens confrontés à un problème juridique ne consultent jamais un professionnel, et un outil disponible à toute heure, à peu de frais ou gratuitement, semble une façon évidente de combler une partie de cet écart. Même le juge en chef des États-Unis a souligné que, pour celles et ceux qui n'ont pas les moyens d'un avocat, l'IA peut aider.

L'attrait est le plus fort lorsqu'il s'agit d'expliquer plutôt que de juger. L'IA peut prendre un avis dense, un formulaire de tribunal ou une clause de contrat et le reformuler en langage clair. Elle peut résumer un long document, définir des termes inconnus et présenter les étapes générales d'une démarche, de sorte que la personne sache au moins ce qu'elle a sous les yeux et ce qui vient habituellement ensuite.

Elle peut aussi aider à s'organiser. Classer des faits dans une chronologie, rédiger une première version d'une lettre ou rassembler les pièces d'un dossier sont des tâches qui exigent du temps et de l'assurance, et c'est là qu'un outil peut véritablement abaisser les obstacles. Utilisée ainsi, l'IA ne remplace pas l'aide juridique : elle rend le travail qui l'entoure moins intimidant.

Rien de tout cela n'est anodin. Pour une personne qui, autrement, affronterait son problème sans aucun soutien, une explication en langage clair et une organisation de base peuvent faire la différence entre agir et abandonner. La promesse est réelle, ce qui est précisément la raison pour laquelle les limites qui suivent méritent autant d'attention.

Les données invitent à la prudence. Une étude de Stanford a constaté que les outils d'IA à usage général se trompent sur des questions juridiques, en produisant des « hallucinations », dans une proportion d'environ 58 à 88 pour cent des cas. Autrement dit, interrogés sur une question de droit, ces outils donnaient des réponses assurées qui étaient erronées, ou qui citaient des éléments inexistants, plus souvent qu'autrement.

Le portrait s'améliore, sans devenir sûr, lorsque les chercheurs ont examiné des outils spécialisés de recherche juridique, dont les « hallucinations » se situaient entre environ 17 et 33 pour cent des cas. C'est mieux qu'un agent conversationnel généraliste, mais cela signifie tout de même qu'une part appréciable des réponses ne peut être tenue pour acquise. Lors d'un test, environ les trois quarts des réponses d'un outil d'IA au sujet d'une décision de tribunal précise étaient incorrectes.

Ce qui rend cela particulièrement préoccupant pour l'accès à la justice, c'est l'endroit où se concentrent les erreurs. Les fautes étaient les plus marquées au niveau des tribunaux de première instance, soit exactement là où se trouvent le plus souvent les personnes non représentées, et là où elles sont le plus susceptibles de s'appuyer sur un outil parce que l'aide professionnelle est hors de portée.

La leçon pratique n'est pas que l'IA est inutile, mais que sa réponse est une ébauche à vérifier, jamais une réponse finale sur laquelle agir. Une réponse assurée et bien rédigée peut être complètement fausse, et la personne la moins outillée pour repérer l'erreur est souvent celle qui dépend le plus de l'outil.

Au-delà de l'exactitude, il existe une frontière juridique. Appliquer le droit aux faits précis d'une personne et lui dire quoi faire constitue un conseil juridique, et donner un conseil juridique est en général réservé aux avocats. Cette règle vise les outils autant que les personnes : un service qui passe de l'explication générale du droit à l'orientation d'un dossier particulier se trouve du mauvais côté de la ligne.

Ce n'est pas théorique. Certains services juridiques fondés sur l'IA ont fait l'objet de contestations pour exercice illégal du droit. Ces règles existent pour protéger le public, car le conseil s'accompagne d'une responsabilité et de devoirs professionnels qu'un outil automatisé ne peut assumer, et une mauvaise recommandation peut causer un préjudice réel.

La conception prudente en découle. Un outil responsable informe et organise : il explique comment une démarche fonctionne, fait ressortir les échéances et aide la personne à rassembler ses documents. Il ne dit pas à la personne ce qu'elle devrait faire dans son litige précis et, lorsque les enjeux ou les risques sont élevés, il l'oriente vers une aide qualifiée au lieu de prétendre s'y substituer.

Conçue ainsi, l'IA complète l'aide professionnelle au lieu de l'imiter. L'objectif est de laisser la personne mieux informée et mieux organisée, afin qu'elle puisse prendre ses propres décisions ou demander conseil en confiance, et non de remplacer le jugement d'un avocat par la supposition d'une machine.

Il s'agit de matériel de recherche et éducatif sur l'utilisation de l'intelligence artificielle pour l'aide juridique. C'est de l'information juridique générale, pas un conseil juridique, et cela ne décrit le dossier de personne en particulier.