Quand l'IA se trompe sur le droit : hallucinations, sanctions et garde-fous

Une défaillance bien documentée est l'hallucination : un outil d'IA produit avec assurance des références jurisprudentielles, des citations ou des conclusions qui paraissent authentiques, mais qui n'existent pas ou sont erronées. Le contenu fabriqué porte toutes les marques de surface du vrai droit, un nom d'affaire plausible, un tribunal, une année, une citation du bon registre, de sorte que rien n'indique qu'il est inventé.

Ces références convainquent justement parce qu'elles ont l'air justes. Un lecteur qui cherche les signes habituels d'autorité les trouve tous. Le problème n'est pas que le résultat paraît suspect et se révèle faux ; c'est que le résultat paraît correct et est faux malgré tout. Voilà ce qui rend l'erreur si facile à transmettre.

Cela s'explique par le fonctionnement même des outils. Ils génèrent un texte qui épouse la forme de l'écriture juridique plutôt que de récupérer et de rapporter des sources vérifiées. Lorsqu'aucune autorité réelle ne colle assez bien au modèle, l'outil peut en produire une qui respecte la forme, mais qui ne correspond à rien dans les recueils de jurisprudence.

Ce n'est pas hypothétique. Des tribunaux ont sanctionné à plusieurs reprises des avocats pour avoir déposé des actes contenant de fausses références jurisprudentielles générées par l'IA. Les juges qui ont voulu vérifier les autorités citées ont constaté qu'elles n'existaient pas, et les avocats qui s'y étaient fiés ont subi des pénalités et un embarras public pour avoir présenté au tribunal un droit fabriqué.

Le risque est encore plus grand pour les personnes non représentées, qui n'ont peut-être aucun moyen de repérer l'erreur. Un avocat sait au moins comment vérifier une citation et est averti que des fabrications se produisent. Une personne qui gère seule son dossier peut prendre pour argent comptant une réponse assurée et bien présentée, et bâtir sa cause sur une autorité qui n'a jamais existé.

Le tort ne se limite pas à un seul moment gênant. Des arguments fondés sur une autorité inventée peuvent s'effondrer à l'épreuve, des délais peuvent expirer pendant qu'une personne se fie au mauvais droit, et la confiance du tribunal envers tout ce que cette personne dépose par ailleurs peut s'en trouver ébranlée. Le coût en aval d'une seule citation fabriquée peut être bien plus grand qu'il n'y paraît d'abord.

La défense, c'est la vérification : confronter chaque autorité à une source primaire, garder un humain dans la boucle et faire preuve de transparence quant à l'usage de l'IA. Avant qu'une citation ne serve d'appui ou ne soit déposée, il faut la remonter jusqu'à la décision ou à la loi réelle dans une source officielle ou fiable, et non l'accepter simplement parce que l'outil l'a produite.

Garder un humain dans la boucle signifie que c'est la personne, et non le logiciel, qui demeure responsable de ce qui est présenté. L'outil peut rédiger et suggérer, mais c'est une personne qui vérifie, juge et décide. La transparence sur l'usage de l'IA permet aux autres, y compris au tribunal, de comprendre comment le contenu a été produit et d'y appliquer l'examen qui convient.

Aucun résultat ne devrait servir d'appui sans vérification, un principe que les tribunaux et les ordres professionnels mettent désormais de l'avant. La discipline est simple à énoncer et facile à escamoter sous la pression du temps, ce qui est précisément pourquoi elle doit être traitée comme une règle fixe plutôt que comme une étape facultative.

Il s'agit de matériel de recherche et éducatif sur les erreurs et hallucinations de l'IA dans le travail juridique. C'est de l'information juridique générale, pas un conseil juridique, et cela ne décrit le dossier de personne en particulier.