IA et État de droit : renforcement des capacités pour les systèmes judiciaires

L'utilisation de l'IA dans les systèmes judiciaires est explorée par les acteurs judiciaires, les parquets et d'autres organes judiciaires spécifiques à un domaine dans le monde entier. Par exemple, dans le domaine de la justice pénale, l'utilisation de systèmes d'IA pour fournir une assistance aux enquêtes et automatiser les processus de prise de décisions est déjà en place dans de nombreux systèmes judiciaires à travers le monde. Compte tenu des évolutions rapides dans ce domaine, les défis et les opportunités liés à l'exploitation de l'IA dans les systèmes judiciaires et leurs implications pour les droits de l'homme et l'État de droit doivent faire partie des discussions entre les parties prenantes de l'écosystème judiciaire. C'est pourquoi cette formation en ligne prenant la forme d'un cours en ligne ouvert à tous (MOOC) est développée en coopération avec le CETIC, centre de catégorie 2 de l'UNESCO, et l'IEEE, en réponse aux besoins exprimés par les États membres de l'UNESCO, les juges et d’autres parties prenantes.
Dernière mise à jour 19 octobre 2022

Intelligence artificielle et transformation numérique

L'intelligence artificielle (IA) a un immense potentiel d'utilisation pour le bien social et la réalisation des Objectifs de développement durable (ODD). Alors même qu'elle est utilisée pour aider à résoudre bon nombre des problèmes sociaux les plus critiques de l'humanité, son utilisation suscite également des inquiétudes quant à la violation des droits de l'homme tels que le droit à la liberté d’expression, le respect de la vie privée, la protection des données et la non-discrimination. Les technologies basées sur l'IA offrent des opportunités majeures si elles sont développées dans le respect de l'éthique et des normes universelles, et si elles sont ancrées dans des valeurs fondées sur les droits de l'homme et le développement durable.

Nouveau cours en ligne sur l'IA et l'État de droit

Cliquez ici pour vous inscrire : Judges.org/ai-rol 

Le cours en ligne ouvert à tous (MOOC) sur l'IA et l'État de droit est un cours d'introduction qui engage les acteurs judiciaires dans une discussion globale et opportune autour de l'application de l'IA et de son impact sur l'État de droit.

Structuré autour de six modules, il analyse les opportunités et les risques liés à l'adoption croissante des technologies d'IA dans les systèmes judiciaires et l'impact de l'IA sur l'administration de la justice, notamment en ce qui concerne les droits de l'homme, l'éthique de l'IA et les questions de gouvernance.

Le cours est développé par l'UNESCO et The Future Society, avec le soutien de Cetic.br|NIC.br, du Collège national de la magistrature et d’IEEE SA. Il a été rendu possible grâce aux aimables contributions du Programme multidonateurs sur la liberté d'expression et la sécurité des journalistes de l'UNESCO et de la Fondation Open Society.

Les systèmes judiciaires du monde entier utilisent l'intelligence artificielle (IA) pour analyser de grandes quantités de données juridiques afin d'aider les avocats à identifier les précédents dans la jurisprudence, de permettre aux administrations de rationaliser les processus judiciaires et d'aider les juges à faire des prévisions sur des questions telles que la durée des peines et les taux de récidive. L'émergence de l'analyse juridique et de la justice prédictive a des répercussions sur les droits de l'homme, car l'opacité des systèmes d'IA peut aller à l'encontre des principes de justice ouverte, de régularité des procédures et d'État de droit. Le cours en ligne ouvert à tous (MOOC) sur l'IA et l'État de droit est un cours d'introduction qui engage les acteurs judiciaires dans une discussion globale et opportune autour de l'application de l'IA et de son impact sur l'État de droit. Structuré autour de six modules, il analyse les opportunités et les risques liés à l'adoption croissante des technologies d'IA dans les systèmes judiciaires et l'impact de l'IA sur l'administration de la justice, notamment en ce qui concerne les droits de l'homme, l'éthique de l'IA et les questions de gouvernance. Le cours est développé par l'UNESCO et The Future Society, avec le soutien de Cetic.br|NIC.br, du Collège national de la magistrature et d’IEEE SA. Il a été rendu possible grâce aux aimables contributions du Programme multidonateurs sur la liberté d'expression et la sécurité des journalistes de l'UNESCO et de la Fondation Open Society.

Rôle des acteurs judiciaires dans la gouvernance de l'IA

À mesure que l'utilisation des technologies d'IA progresse, les systèmes judiciaires sont confrontés à des questions juridiques concernant les implications de l'IA pour les droits de l'homme, la surveillance et la responsabilité, entre autres. En outre, les systèmes judiciaires utilisent également des systèmes d'IA pour les processus de prise de décisions judiciaires, ce qui a suscité des inquiétudes quant à l'équité, la responsabilité et la transparence des décisions prises par des systèmes automatisés ou utilisant l'IA.

Le potentiel de l'IA est déjà exploré par de nombreux systèmes judiciaires, notamment le pouvoir judiciaire, les parquets et d'autres organes judiciaires spécifiques, dans le monde entier, dans le domaine de la justice pénale, en fournissant une assistance aux enquêtes et en automatisant/facilitant les processus décisionnels.

Néanmoins, l'utilisation de l'IA pose un large éventail de défis à relever : de la reconnaissance des modèles à l'éthique, en passant par les décisions biaisées découlant des algorithmes fondés sur l'IA, la transparence et la responsabilité. Les algorithmes d'auto-apprentissage, par exemple, peuvent découler de certains ensembles de données (décisions antérieures, images faciales ou bases de données vidéo, etc.) qui peuvent contenir des données biaisées pouvant être utilisées par des applications à des fins criminelles ou de sécurité publique, conduisant à des décisions biaisées.

Compte tenu des développements rapides dans ce domaine, les défis et les opportunités liés à l'exploitation de l'IA dans le domaine de la justice et la manière dont les systèmes basés sur l'IA peuvent aider les acteurs judiciaires dans leurs rôles au sein de l'administration de la justice et pour traiter les cas impliquant l'IA ayant un impact sur les droits de l'homme doivent faire partie des discussions entre les parties prenantes de l'écosystème judiciaire.

A two-day seminar on "Freedom of Expression and Safety of Journalists for Judges in Africa" and organized by UNESCO and the GIZ in 2019
Séminaire de deux jours sur « la liberté d’expression et la sécurité des journalistes pour les juges en Afrique » organisé par l'UNESCO et la GIZ en 2019.

Initiative de l’UNESCO pour la formation des juges

Depuis 2014, l'UNESCO et ses partenaires forment des juges et des acteurs judiciaires à la liberté d’expression, l'accès public à l’information et la sécurité des journalistes, principalement par le biais de cours en ligne ouvert à tous (MOOC). Plus de 17 000 acteurs judiciaires ont été formés en Amérique latine, en partenariat avec la Cour interaméricaine des droits de l'homme, ainsi qu'en Afrique, où l'UNESCO s’est associée au Centre des droits de l'homme de l'Université de Pretoria, à la Commission africaine des droits de l'homme et des peuples, à la Cour africaine des droits de l'homme et des peuples et à la Communauté économique des États de l'Afrique de l'Ouest.

Ces formations améliorent la liberté d’expression, l'accès public à l’information et la sécurité des journalistes en renforçant les capacités des juges et des autres acteurs des systèmes judiciaires sur ces questions. Les cours fournissent aux acteurs judiciaires une vue d'ensemble des cadres juridiques internationaux et régionaux pertinents ainsi que des nouveaux défis posés par l'Internet et les autres technologies numériques.

Grâce à une meilleure compréhension et connaissance des normes internationales et régionales en matière de liberté d’expression et de sécurité des journalistes, les juges et les autres membres du système judiciaire peuvent mieux aligner leurs décisions sur les normes et les bonnes pratiques internationales et régionales sur ces questions.

Sur la base de l'expérience ci-dessus, l'UNESCO et ses partenaires développent le programme de renforcement des capacités des acteurs judiciaires concernant l'utilisation de l'IA par les tribunaux et les forces de l'ordre, ainsi que pour aborder les implications juridiques des décisions judiciaires en matière d'IA basées sur les normes internationales des droits de l'homme.

UNESCO and Inter-American Court of Human Rights Human (IACHR) signed a Memorandum of Understanding (MoU) to strengthen the protection of freedom of expression, press freedom and safety of journalists in the Latin American and the Caribbean region.
L'UNESCO et la Cour interaméricaine des droits de l'homme (CIDH) ont signé un mémorandum d'accord (MA) visant à renforcer la protection de la liberté d’expression, la liberté de la presse et la sécurité des journalistes dans la région de l'Amérique latine et des Caraïbes.

IA et pouvoir judiciaire : un cours en ligne ouvert à tous ?

La nécessité d'impliquer les acteurs judiciaires dans les questions liées à l'IA a été reconnue lors de la table ronde d'Athènes sur l'IA et l'État de droit, co-organisée par l'UNESCO, lors des sessions du Forum sur la gouvernance de l'Internet consacrées à l'État de droit dans l'écosystème numérique, à l’occasion de l'enquête de l'UNESCO sur l'évaluation des besoins de renforcement des capacités en matière d'IA en Afrique et, notamment, par les participants à l'Initiative de l’UNESCO pour la formation des juges qui a impliqué plus de 17 000 opérateurs judiciaires.

Pour répondre à ces besoins, une formation en ligne prenant la forme d'un cours en ligne ouvert à tous (MOOC) est en cours d'élaboration, en coopération avec le CETIC, centre de catégorie 2 de l'UNESCO et l'IEEE, en réponse directe aux besoins exprimés par les États membres de l'UNESCO en Afrique, les juges et les autres parties prenantes.

Objectifs du cours en ligne :

  1. Stimuler un dialogue participatif avec les opérateurs judiciaires sur les innovations liées à l'IA dans le système judiciaire et promouvoir la connaissance des innovations numériques dans le système judiciaire ;
  2. Faciliter l'échange de connaissances et le partage d'expériences entre les opérateurs judiciaires sur l'intelligence artificielle, les normes existantes (droit contraignant ou non) dans le domaine, et ses implications pour les droits de l'homme ;
  3. Mettre en lumière les études de cas et les bonnes pratiques existantes qui traduisent les principes éthiques en pratique, tant en termes d'utilisation de l'IA dans les systèmes judiciaires que dans les cas où l'IA a un impact sur les droits de l'homme.
UNESCO rolls out first African MOOC on freedom of expression and safety of journalists in 2017.
L'UNESCO lance le premier MOOC africain sur la liberté d’expression et la sécurité des journalistes en 2017.

En savoir plus

L’Initiative de l’UNESCO pour la formation des juges

L'État de droit en tant que concept clé de l'écosystème numérique :

L’Enquête sur l'évaluation des besoins en intelligence artificielle en Afrique :

  • UNESCO launches Artificial Intelligence Needs Assessment Survey in Africa
  • UNESCO Launches the findings of the Artificial Intelligence Needs Assessment Survey in Africa

Notre sondage d’experts judiciaires dans 100 pays :

Le MOOC sur l’IA et l’État de droit, son impact :

 Nos formations :