La IA y el Estado de derecho: Fortalecimiento de capacidades para los sistemas judiciales

El uso de la IA en los sistemas judiciales está siendo explorado por las judicaturas, los servicios de fiscalía y otros órganos judiciales específicos a nivel mundial. Por ejemplo, en el ámbito de la justicia penal, muchos sistemas judiciales del mundo entero ya utilizan sistemas de IA para brindar asistencia en investigación y automatizar los procesos de toma de decisiones. Al considerar los rápidos avances en este campo, los desafíos y oportunidades relacionados con el aprovechamiento de la IA en los sistemas judiciales y sus implicaciones para los derechos humanos y el estado de derecho deben formar parte de las discusiones entre las partes interesadas del ecosistema judicial. Por lo tanto, este curso de capacitación en línea en formato de curso abierto masivo en línea (MOOC, por sus siglas en inglés) se desarrolla en cooperación con el centro CETIC de categoría 2 de la UNESCO y el IEEE en respuesta a las necesidades expresadas por Estados miembros de la UNESCO, jueces y otras partes interesadas.
Última actualización: 19 de Octubre de 2022

Inteligencia artificial y transformación digital

La Inteligencia Artificial (IA) tiene un enorme potencial para ser utilizada por el bien social y el logro de los Objetivos de Desarrollo Sostenible (ODS). A pesar de que se la utiliza para ayudar a enfrentar muchos de los problemas sociales más críticos de la humanidad, su uso también plantea preocupaciones con respecto a la violación de derechos humanos, como ser el derecho a la libertad de expresión, el derecho a la privacidad, la protección de datos y la no discriminación. Las tecnologías basadas en la IA ofrecen grandes oportunidades si se desarrollan respetando la normativa, la ética y los estándares internacionales, y si se fundamentan en valores basados en los derechos humanos y el desarrollo sostenible.

Nuevo curso en línea sobre la IA y el Estado de derecho

Inscríbase aquíJudges.org/ai-rol 

El Curso Masivo Abierto en Línea (MOOC) sobre la IA y el Estado de derecho es un curso introductorio que involucra a los operadores judiciales en un debate global y oportuno sobre la aplicación de IA y su impacto en el Estado de derecho.

Estructurado en seis módulos, pone a disposición información sobre las oportunidades y los riesgos de la creciente adopción de tecnologías de IA en los sistemas judiciales y el impacto de la IA en la administración de justicia, particularmente en relación con los derechos humanos, la ética y la gobernanza de IA.

La UNESCO y The Future Society desarrollaron el curso con el apoyo de Cetic.br|NIC.br, el Colegio Judicial Nacional e IEEE SA. Esto fue posible gracias a las importantes contribuciones del Programa de Donantes Múltiples de la UNESCO sobre Libertad de Expresión y Seguridad de los Periodistas (MDP) y las Open Society Foundations.

Los sistemas judiciales a nivel mundial utilizan la Inteligencia artificial (IA) para analizar grandes cantidades de datos jurídicos con el objetivo de ayudar a los abogados a identificar precedentes en la jurisprudencia, permitir a las administraciones simplificar los procesos judiciales y apoyar a los jueces a establecer predicciones sobre temas que incluyen la duración de sentencias y las puntuaciones de reincidencia. El surgimiento de la analítica de datos legales y la justicia predictiva tiene implicaciones frente a los derechos humanos, puesto que la opacidad de los sistemas de IA puede ir en contra de los principios de justicia abierta, debido proceso y el estado de derecho. El curso en línea masivo y abierto (MOOC) sobre la IA y el Estado de derecho es un curso introductorio que involucra a los operadores judiciales en un debate global y oportuno sobre la aplicación de la IA y su impacto en el estado de derecho. Estructurado en torno a seis módulos, el curso aborda los riesgos y las oportunidades de la creciente adopción de tecnologías de IA en los sistemas judiciales y su impacto en la administración de justicia, en particular, en lo que respecta a los derechos humanos, la ética y la gobernanza de la IA. El curso fue desarrollado por la UNESCO y The Future Society, con el apoyo de Cetic.br|NIC.br, el Colegio Nacional de la Magistratura e IEEE SA. Fue posible gracias a las amables contribuciones del Programa de Donantes Múltiples de la UNESCO para la Libertad de Expresión y Seguridad de los Periodistas (MDP) y Open Society Foundations.

El papel de los actores judiciales en la gobernanza de la IA

A medida que avanza el uso de las tecnologías de IA, los sistemas judiciales se involucran en cuestiones legales relacionadas con las implicaciones de la IA con respecto a los derechos humanos, la vigilancia y la responsabilidad, entre otros. Además, los sistemas judiciales también utilizan sistemas de IA para los procesos de toma de decisiones judiciales que han planteado preocupaciones sobre la equidad, la rendición de cuentas y la transparencia en la toma de decisiones de parte de sistemas automatizados o habilitados mediante la IA.

Diversos sistemas judiciales actualmente exploran el potencial de la IA, como ser el poder judicial, los servicios de fiscalía y otros órganos judiciales especializados en el mundo entero y en el ámbito de la justicia penal, proporcionando asistencia de investigación y automatizando/facilitando los procesos de toma de decisiones.

Sin embargo, el uso de la IA plantea una amplia gama de desafíos que deben abordarse: desde el reconocimiento de patrones pasando por la ética, las decisiones sesgadas tomadas según algoritmos basados en la IA, la transparencia, hasta la rendición de cuentas. Los algoritmos de autoaprendizaje, por ejemplo, pueden ser entrenados mediante ciertos conjuntos de datos (decisiones anteriores, imágenes faciales o bases de datos de video, etc.) que podrían contener datos sesgados y que puedrían utilizarse con aplicaciones para fines penales o de seguridad pública, lo que conduce a decisiones sesgadas.

Si se considera los rápidos avances en este ámbito, deben formar parte de las discusiones entre las partes interesadas del ecosistema judicial todos los desafíos y oportunidades relacionados con el aprovechamiento de la IA en los sistemas judiciales y sus implicaciones para los derechos humanos y el estado de derecho.

A two-day seminar on "Freedom of Expression and Safety of Journalists for Judges in Africa" and organized by UNESCO and the GIZ in 2019
Un seminario de dos días sobre "Libertad de expresión y seguridad de los periodistas para jueces en África" y organizado por la UNESCO y la GIZ en 2019.

Iniciativa de jueces de la UNESCO

Desde 2014, la UNESCO y sus socios han estado capacitando a jueces y actores judiciales sobre la libertad de expresión, el acceso público a la información y la seguridad de los periodistas, principalmente a través de cursos masivos abiertos en línea (MOOC). Más de 17.000 agentes judiciales recibieron capacitación en América Latina, en asociación con la Corte Interamericana de Derechos Humanos, así como en África, donde la UNESCO se asoció con el Centro de Derechos Humanos de la Universidad de Pretoria, la Comisión Africana de Derechos Humanos y de los Pueblos, la Corte Africana de Derechos Humanos y de los Pueblos y la Comunidad Económica de los Estados de África Occidental.

Estos cursos de capacitación profundizan la libertad de expresión, el acceso del público a la información y la seguridad de los periodistas al reforzar la capacidad de los jueces y otros agentes de los sistemas judiciales sobre estas cuestiones. Los cursos proporcionan a los agentes judiciales una visión general de los marcos jurídicos internacionales y regionales pertinentes, así como de los nuevos desafíos que plantean Internet y otras tecnologías digitales.

A través de una mejor comprensión y conocimiento de la normativa internacional y regional en materia de libertad de expresión y seguridad de los periodistas, los jueces y otros miembros del poder judicial pueden ajustar mejor sus decisiones a las normas y buenas prácticas internacionales y regionales sobre estas cuestiones.

Sobre la base de la experiencia anterior, la UNESCO y sus asociados están desarrollando el programa para fomentar la capacidad de los agentes judiciales en relación con el uso de la IA en los tribunales y por las fuerzas del orden, así como para abordar las implicaciones jurídicas de las decisiones judiciales de IA basadas en las normas internacionales de derechos humanos.

UNESCO and Inter-American Court of Human Rights Human (IACHR) signed a Memorandum of Understanding (MoU) to strengthen the protection of freedom of expression, press freedom and safety of journalists in the Latin American and the Caribbean region.
La UNESCO y la Corte Interamericana de Derechos Humanos (CIDH) firmaron un Memorando de Entendimiento (MoU) para fortalecer la protección de la libertad de expresión, la libertad de prensa y la seguridad de los periodistas en la región de América Latina y el Caribe.

La IA y el Poder Judicial: ¿Un curso en línea abierto y masivo?

La necesidad de comprometerse con los actores judiciales en cuestiones relacionadas con la IA fue reconocida en la Mesa Redonda de Atenas sobre la IA y el Estado de Derecho, copatrocinada por la UNESCO, las sesiones del Foro de Gobernanza de Internet sobre el Estado de Derecho en el Ecosistema Digital, la Encuesta de Evaluación de las Necesidades de Creación de Capacidades de IA de la UNESCO en África y, en particular, por los participantes bajo el paraguas de la iniciativa de jueces de la UNESCO que involucró a más de 17.000 operadores judiciales.

A fin de responder a estas necesidades, este curso de capacitación en línea bajo formato de curso abierto masivo en línea (MOOC, por sus siglas en inglés) se desarrolla en cooperación con el centro CETIC de categoría 2 de la UNESCO y el IEEE como respuesta directa a las necesidades expresadas por Estados miembros de la UNESCO en África, jueces y otras partes interesadas.

Objetivos del Curso Online:

  1. Propiciar un diálogo participativo con los operadores judiciales sobre las innovaciones relacionadas con la IA en el sistema judicial y promover el conocimiento de las innovaciones digitales en el sistema judicial,
  2. Facilitar el intercambio de conocimientos y experiencias entre los operadores judiciales sobre inteligencia artificial, normativa y estándares existentes (legislación vinculante y no vinculante) en la materia, así como sus implicaciones para los derechos humanos,
  3. Destacar los estudios de caso existentes y las mejores prácticas que traducen los principios éticos a la práctica, tanto en términos del uso de la IA en los sistemas de justicia, como en los casos conciernentes a la IA afectando los derechos humanos.
UNESCO rolls out first African MOOC on freedom of expression and safety of journalists in 2017.
La UNESCO lanza el primer MOOC africano sobre libertad de expresión y seguridad de los periodistas en 2017.

Más información

La Iniciativa de Jueces de la UNESCO

El Estado de Derecho como concepto clave en el ecosistema digital:

Encuesta de evaluación de las necesidades de inteligencia artificial en África:

  • UNESCO launches Artificial Intelligence Needs Assessment Survey in Africa
  • UNESCO Launches the findings of the Artificial Intelligence Needs Assessment Survey in Africa

Nuestra encuesta de expertos judiciales en 100 países:

El MOOC sobre IA y Estado de Derecho y su impacto:

 Nuestras formaciones: