Protéger les tribunaux contre les contenus synthétiques générés par l’IA

Le système de justice peut-il faire face à la menace croissante que représente l’introduction de contenus synthétiques générés par l’IA dans les procédures judiciaires?

L’intégrité des procédures judiciaires est un pilier fondamental des sociétés démocratiques. L’évolution fulgurante des technologies d’IA générative soulève toutefois un risque aussi sérieux qu’incontrôlé : l’introduction potentielle de contenus synthétiques comme fausses preuves devant les tribunaux. Contrairement à d’autres secteurs, le système judiciaire fonctionne selon des règles de preuve rigoureuses, où une seule pièce contrefaite peut entraîner une condamnation injustifiée, compromettre l’équité procédurale et ébranler durablement la confiance du public.

Divers obstacles systémiques nous empêchent de neutraliser efficacement cette menace. Les tribunaux, déjà débordés, ne sont pas outillés pour détecter les contenus synthétiques sophistiqués ni en examiner l’authenticité et la validité. Les outils destinés à un usage général ne sont pas suffisamment précis ni conformes aux exigences judiciaires. Il en résulte un décalage dangereux pour l’équité procédurale, surtout pour les personnes dépourvues de ressources comme les parties non représentées, qui n’ont pas toujours les moyens d’identifier les preuves fabriquées.

Surmonter ces obstacles exige une action coordonnée de la part des juges, des professionnels et professionnelles du droit et des décideurs et décideuses. Les progrès restent toutefois limités en l’absence d’outils d’analyse capables d’évaluer avec précision et transparence les preuves numériques dans le cadre bien précis des procédures, des règles de preuve et de l’interprétation juridique.

Ce Réseau de solutions se consacre à l’élaboration, à la validation et au déploiement socialement responsables d’un outil de vérification alimenté par l’IA conçu spécialement pour le système judiciaire. Développé en étroite collaboration avec des professionnelles et professionnels du droit, des membres de la magistrature et d’autres parties prenantes, cet outil se veut une solution non seulement performante sur le plan technique, mais aussi adaptée aux règles procédurales. Il est destiné à soutenir, et non à remplacer le jugement humain, dans le respect des principes fondamentaux d’équité et de transparence.

Afficher la transcription

Fondation

2025

Partenaires de recherche

CIFAR

Personne-ressource

Gagan Gill
Directeur associé, Sécurité de l’IA