Source: The Conversation – in French – By Raisul Islam Sourav, PhD Candidate in Legal Analytics, University of Galway
Au Royaume-Uni, des directives suggèrent que les juges pourraient utiliser l’IA pour des travaux préparatoires. L’Estonie utilise un système d’IA semi-automatisé pour les recouvrement de petites créances. En Allemagne, un système est testé pour des litiges relatifs aux droits des passagers aériens. À Taïwan, l’IA aide les tribunaux dans des affaires de conduite en état d’ivresse ou de fraudes. Pourtant, les arguments en défaveur d’une utilisation de l’IA par la justice sont nombreux et doivent être pris en considération.
En quelques années seulement, l’intelligence artificielle générative a entraîné des changements significatifs dans de nombreux secteurs, de la santé à l’éducation, du divertissement à la finance, et même dans le domaine du droit.
L’utilisation de l’IA dans les décisions judiciaires pose des risques importants pour la justice. Des résultats erronés issus d’informations « hallucinées », des décisions discriminatoires et un manque de transparence font partie des préoccupations liées à l’introduction de cette technologie dans les tribunaux.
Pourtant, un certain nombre de juges à travers le monde l’ont déjà utilisée dans la prise de décision et la rédaction de jugements. C’est pourquoi certaines juridictions, dont le Royaume-Uni, ont publié des lignes directrices à l’intention des juges concernant l’usage de l’IA.
De manière générale, ces directives suggèrent que les juges peuvent utiliser l’IA comme un outil pour effectuer des travaux préparatoires, tels que la rédaction de résumés de documents longs, la traduction de documents juridiques, l’identification de précédents juridiques ou l’amélioration de la lisibilité des documents. Elles déconseillent son utilisation pour les fonctions judiciaires essentielles, notamment la prise de décision.
Récemment, certains hauts responsables judiciaires ont estimé que l’IA pourrait être utilisée pour trancher des affaires « à faible enjeu » ou moins complexes, à condition de prendre des précautions adéquates, comme maintenir un juge humain dans le processus.
Dans un discours prononcé en novembre 2024, le deuxième juge le plus haut placé du Royaume-Uni, Geoffrey Vos, a évoqué un « spectre » de décisions juridiques que l’IA pourrait bientôt prendre, ou contribuer à prendre.
Vos a déclaré que l’utilisation de l’IA pour des « décisions largement mécaniques, comme celles concernant le montant d’une pension ou de prestations, ou le calcul des dommages corporels et des pertes de revenus » permettrait probablement d’économiser du temps et de l’argent. Mais il a appelé à une réflexion sur la question de savoir si une telle utilisation violerait des droits humains fondamentaux.
Un an plus tard, Vos a de nouveau appelé à un « débat sérieux » sur les droits qui devraient être protégés pour les humains dans ce contexte. Il a également insisté sur le fait que l’IA devait être « utilisée de manière responsable, efficace et sûre dans les systèmes et processus juridiques ».
Plusieurs juridictions testent ou utilisent déjà l’IA dans ce type d’affaires « mécaniques ». L’Estonie utilise un système de petites créances semi-automatisé dans les procédures civiles pour des demandes pécuniaires allant jusqu’à 7 000 euros, avec des greffiers humains supervisant le processus.
Le tribunal de district de Francfort, en Allemagne, a testé un système d’IA nommé Frauke pour traiter les litiges relatifs aux droits des passagers aériens. Frauke analyse des affaires et décisions antérieures afin de produire des projets de jugements préconfigurés. Les juges assemblent ensuite les verdicts finaux à partir de ces textes après avoir statué, ce qui réduit considérablement le temps consacré à la rédaction.
Taïwan a expérimenté un outil basé sur l’IA pour aider les tribunaux, notamment en produisant des notifications de décision dans des affaires de conduite en état d’ivresse ou de complicité dans des fraudes. Le système d’IA génère un projet complet de décision comprenant les faits, le raisonnement juridique, les citations et le verdict final. Le juge examine ce projet et, après approbation, peut l’émettre comme jugement officiel, avec ou sans modifications.
Ces exemples montrent clairement que la principale motivation pour remplacer les juges humains dans certaines catégories d’affaires est l’efficacité. Par conséquent, d’autres juridictions explorent également la possibilité d’intégrer l’IA générative afin de statuer sur certains litiges sans intervention de juges humains.
Le coût de l’utilisation de l’IA générative comme juge
Les tribunaux sont surchargés, et des technologies comme l’IA générative promettent cohérence et efficacité. Mais cela représenterait un changement majeur par rapport à des pratiques vieilles de plusieurs siècles. Et cela risque de saper ce que certains juristes considèrent comme un principe fondamental de la justice : le droit d’être jugé par un être humain.
Le jugement d’une affaire ne consiste pas uniquement à parvenir à une décision. Il s’agit d’un processus global et équitable qui inclut le droit d’être entendu – présenter sa défense, mettre en balance des récits contradictoires et exercer un jugement à la lumière du droit et de l’équité.
Les outils algorithmiques, aussi avancés soient-ils, n’entendent ni ne « comprennent » même pas leurs propres productions, encore moins les valeurs humaines ou les contextes sociaux changeants. L’IA générative ne peut pas reconnaître la souffrance, la crédibilité, le remords ou la vulnérabilité comme le ferait un humain. Cela seul la rend inapte à occuper le siège d’un juge.
Classer les affaires comme simples ou complexes peut sembler pragmatique, mais c’est à la fois juridiquement et moralement dangereux. Ce qui constitue une affaire « simple, routinière ou mécanique » est en soi une décision humaine. Les litiges relatifs à des indemnisations ou à des prestations peuvent paraître simples sur le papier, mais elles peuvent avoir des conséquences importantes pour la personne qui saisit la justice.
Attribuer ces affaires à une adjudication algorithmique risque de créer un système judiciaire à deux vitesses – dans lequel un groupe de citoyens peut présenter son affaire devant un juge humain, tandis que d’autres sont traités par des machines. Seuls les premiers, à mon sens, exercent pleinement leur droit à une audience et à un procès équitables devant un tribunal indépendant et impartial, tel que garanti par l’article 6 de la Convention européenne des droits de l’homme.
De plus, l’argument de l’efficacité pourrait s’avérer illusoire. Les systèmes algorithmiques comme l’IA générative nécessitent une supervision humaine continue, des audits et des corrections. Les hallucinations ou erreurs, qu’elles résultent d’une conception défaillante ou de données d’entraînement biaisées, peuvent totalement annuler les bénéfices annoncés.
La confiance du public est essentielle dans tout système juridique. Si les citoyens perdent confiance dans les décisions automatisées, les recours augmenteront – aggravant encore l’arriéré déjà existant des affaires.
Les technologies émergentes comme l’IA générative peuvent être utiles pour gérer l’administration des tribunaux et réduire les charges administratives. Mais remplacer les juges humains, même dans des affaires supposément à faible enjeu, porte atteinte aux principes fondamentaux de la justice. L’efficacité ne devrait pas se faire au détriment des valeurs que le système judiciaire est censé protéger.
Raisul Islam Sourav ne travaille pas, ne conseille pas, ne possède pas de parts, ne reçoit pas de fonds d’une organisation qui pourrait tirer profit de cet article, et n’a déclaré aucune autre affiliation que son organisme de recherche.
– ref. Le danger d’une IA utilisée par la justice – https://theconversation.com/le-danger-dune-ia-utilisee-par-la-justice-280484