Les juges robots arrivent mais eux aussi peuvent se tromper

Après les erreurs judiciaires, faut- il désormais redouter les cyber erreurs judiciaires ? « L’erreur judiciaire doit tenir compte de l’intelligence artificielle », prévient Natalie Fricero, professeure des universités. Elle en veut pour preuve la procédure créée par l’Estonie en 2019 : un juge robot peut y régler certains litiges civils dont le dommage est inférieur à 7 000 €. Chaque partie concernée télécharge ses documents, ses allégations et ses preuves sur une plateforme dédiée. Et c’est ensuite le juge robot qui analyse ces données et qui rend une décision. Toutefois, si l’une des parties n’est pas d’accord avec le jugement rendu, elle peut faire appel et, dans ce cas, ce sera un juge humain qui tranchera.

Pour l’État estonien, cette procédure permet de rendre une décision plus rapidement et de désengorger les tribunaux. Natalie Fricero est plus prudente. À l’heure des deepfakes (enregistrements truqués), ce juge robot peut- il vraiment authentifier les documents fournis ? « Avec ce type de procédures, nous sommes aussi confrontés à des cyber erreurs qui proviennent de biais algorithmiques », note Natalie Fricero. Autrement dit, d’algorithmes qui n’auraient pas été programmés pour tenir compte de toutes les situations.

Scandale du Post Office

Or, afin de favoriser les règlements à l’amiable des litiges civils, il est de plus en plus d’actualité « de mettre en place des négociations algorithmiques ». La modification d’une directive européenne, liée aux litiges de consommation, est actuellement en discussion dans les pays de l’Union européenne et tente d’encadrer ces conflits qui pourraient davantage se régler via des plateformes numériques. Le texte essaie de mettre en place des garde-fous : chaque pays devra veiller à ce qu’un litige, traité dans un premier temps par une procédure automatisée, puisse être réexaminé « par une personne physique », précise- t- il.

Pour autant, Me Rana Chaaban, l’une des organisatrices du colloque sur les erreurs judiciaires, met en garde : la justice ne peut pas reposer uniquement sur l’intelligence artificielle ou sur des logiciels. Pour s’être trop appuyée sur un logiciel de comptabilité défectueux, baptisé Horizon, la Justice britannique doit faire face « à l’une de ses plus grandes erreurs judiciaires ». Plus de 700 responsables d’agences du Post Office ont été poursuivis ou condamnés à tort pour vols et falsifications de comptes. Certains ont été ruinés, d’autres emprisonnés, quatre se sont suicidés.

| PHOTO ANDY RAIN, EPA-EFE Au Royaume-Uni, Alan Bates a poursuivi le Post Office, à la suite d’une vaste erreur judiciaire.