Ética de la Inteligencia Artificial

La Recomendación

Hoy en día, la inteligencia artificial (IA) desempeña un papel en la vida de miles de millones de personas. A veces inadvertida, pero a menudo con profundas consecuencias, transforma nuestras sociedades y desafía lo que significa ser humano.

La IA puede brindar apoyo a millones de estudiantes para completar la educación secundaria, cubrir 3,3 millones de puestos de trabajo adicionales y, de manera más urgente, ayudarnos a hacer frente a la propagación y las consecuencias de la pandemia de COVID-19. Junto con múltiples ventajas, estas tecnologías también generan riesgos y desafíos a la baja, derivados del uso malicioso de la tecnología o la profundización de las desigualdades y divisiones.

Artificial intelligence plays a role in billions of people’s lives

¿Qué necesitamos?

  • Políticas internacionales y nacionales, así como marcos regulatorios para garantizar que estas tecnologías emergentes beneficien a la humanidad en su conjunto.
  • Una IA centrada en el ser humano. La IA debe estar al servicio de los intereses de los ciudadanos, y no al revés.
Recommendation on the Ethics of Artificial Intelligence

¿Cómo construir el estado de derecho en el mundo digital?

En este video, Gabriela Ramos, Subdirectora General de Ciencias Sociales y Humanas de la UNESCO, explica cómo las nuevas tecnologías transforman el mundo y nuestra vida cotidiana, de formas antes inimaginables. La pandemia mundial ha acelerado aún más la aplicación de la tecnología de IA: desde aplicaciones de seguimiento y rastreo hasta plataformas digitales para garantizar la continuidad de la enseñanza y el aprendizaje de millones de estudiantes. ¿Hasta qué punto se puede confiar en la IA? ¿Quién debe ser considerado responsable si un algoritmo discrimina o presenta sesgos? ¿Cómo podemos garantizar que los beneficios económicos de la IA se distribuyan de manera justa, en lugar de amplificar la creciente desigualdad social? La UNESCO está a la vanguardia del diálogo más grande entre los gobiernos, la sociedad civil y el sector privado para construir una base sólida para el estado de derecho en el mundo digital.

Cosas que debes saber sobre la IA

La IA ha demostrado su valor para hacer frente a la pandemia de COVID-19

Contribuye a frenar el impacto económico de la crisis a través de las plataformas digitales. También ayuda a los investigadores a procesar grandes cantidades de datos en la carrera por encontrar una vacuna o un tratamiento. La IA ha participado en la contención de la propagación del virus a través de tecnologías de prueba, seguimiento y localización. Sin embargo, a medida que las personas dan acceso a sus datos, el uso de la IA durante esta pandemia ha reabierto las preocupaciones con respecto a la privacidad, la protección de datos y el uso de datos más allá de las necesidades de seguimiento de virus.

Es probable que el crecimiento impulsado por la IA sea muy desigual

Se espera que la IA genere casi 4 billones de dólares estadounidenses en valor agregado para 2022. Para 2030, se espera que las ganancias económicas sean más fuertes en China y América del Norte, lo que representa el 70 % del impacto económico global de la IA. La IA tiene una dinámica de “el ganador se lo lleva todo” que debe regularse: la concentración de la IA en manos de unos pocos países de altos ingresos probablemente dejará muy atrás a los países en desarrollo. Estos últimos no se beneficiarán o se beneficiarán muy poco de las tecnologías de IA y carecerán de propiedad de tales tecnologías.

Infografía sobre la inteligencia artificial

Y lo que es más

La IA contribuye a agrandar las brechas de género existentes

Solo el 22 % de todos los profesionales de IA son mujeres. Debido a que están subrepresentadas en la industria, los sesgos de género y los estereotipos se reproducen en las tecnologías de IA. No es casualidad que los asistentes personales virtuales como Siri, Alexa o Cortana sean “mujeres” por defecto. El servilismo y, a veces, la sumisión que expresan son un ejemplo de cómo la IA puede (continuar) reforzando y propagando los prejuicios de género en nuestras sociedades.

La IA puede ser una herramienta poderosa para abordar el cambio climático y los problemas ambientales

A medida que el planeta continúa calentándose, los impactos del cambio climático empeoran. Los modelos potenciados por la IA podrían, por ejemplo, ayudar a mejorar la gestión de los ecosistemas y la restauración de los hábitats, algo esencial para disminuir el declive de las poblaciones de peces y fauna silvestre. Dicho esto, la extracción de datos consume casi el 10 % de la energía a nivel mundial. Por lo tanto, también es esencial abordar el alto consumo de energía de la IA y el consiguiente impacto en la emisión de carbono.

La IA no puede ser una zona sin ley

La IA ya está en nuestras vidas, dirigiendo nuestras elecciones, a menudo de maneras que pueden ser dañinas. Hay algunos vacíos legislativos en la industria que deben llenarse rápidamente. El primer paso es llegar a un acuerdo sobre los valores que deben consagrarse y las reglas deben aplicarse. Existen muchos marcos y directrices, pero se aplican de forma desigual y ninguno es verdaderamente global. La IA es global, por lo que necesitamos un instrumento global que la regule.

Ética de la Inteligencia Artificial

Evolución de la Recomendación

Better Images of AI / Plant

Recomendación sobre la Ética de la Inteligencia Artificial

El proceso en un vistazo

El 24 de noviembre de 2021, la Conferencia General de la UNESCO adoptó la Recomendación sobre la Ética de la Inteligencia Artificial en su 41.ª sesión.
La UNESCO se embarcó en un proceso de dos años para elaborar este primer instrumento normativo mundial sobre la Ética de la Inteligencia Artificial en forma de recomendación, tras la decisión de su Conferencia General en su 40.ª reunión en noviembre de 2019.

En 2020, la atención se centró en preparar el proyecto de texto de la Recomendación con la asistencia de un Grupo De Expertos Ad Hoc (AHEG). Esta fase incluyó consultas inclusivas y multidisciplinarias con una amplia gama de partes interesadas. Estas amplias consultas fueron extremadamente importantes para garantizar que el texto fuera lo más inclusivo posible.

Hacia finales de 2020 y en 2021, la atención se centró en un proceso intergubernamental y negociaciones sobre el proyecto de texto para producir una versión final de la Recomendación para su posible adopción por la Conferencia General de la UNESCO en su 41.ª sesión a finales de 2021.

El trabajo de la UNESCO sobre la Recomendación se basa en el estudio preliminar sobre la Ética de la Inteligencia Artificial de la Comisión Mundial de Ética del Conocimiento Científico y la Tecnología (COMEST) de la UNESCO.  Este estudio enfatiza que actualmente ningún instrumento global cubre todos los campos que guían el desarrollo y la aplicación de la IA en un enfoque centrado en el ser humano.

La UNESCO desea reconocer a los socios que han contribuido y apoyado el proceso de elaboración de la Recomendación sobre la Ética de la Inteligencia Artificial.

Elaboración de un proyecto de texto sobre la Recomendación

Grupo de Expertos Ad Hoc

24 especialistas de renombre con experiencia multidisciplinaria y pluralista en la Ética de la Inteligencia Artificial para formar un Grupo de Expertos Ad Hoc (AHEG), en marzo de 2020.

Este grupo se encargó de producir un borrador del instrumento de establecimiento de estándares globales, en forma de una Recomendación de la UNESCO, con la debida consideración de varias dimensiones, incluido el medio ambiente y las necesidades del sur global.

Mesa AHEG

El AHEG también eligió su Mesa, utilizando procedimientos en línea, de la siguiente manera:

Presidenta: Ms Emma Ruttkamp-Bloem

Relator: Mr Sang Wook Yi

Vicepresidentes:    

  • Sra. Constanza Gomez Mont
  • Sra. Irena Nesterova
  • Sra. Golestan (Sally) Radwan
  • Sr Peter-Paul Verbeek

Ver también

Primera reunión virtual del Grupo de Expertos Ad Hoc (de marzo a mayo de 2020)

Due to the exceptional circumstances posed by the COVID-19 pandemic, the AHEG conducted the first phase of its work virtually from the end of March until the beginning of May 2020.

A working document provided them with background information as a starting point in their reflections.

The AHEG worked virtually over six weeks in working groups that were coordinated by six of its members: Robert Kroplewski, Julie Owono Assevini, Golestan (Sally) Radwan, Emma Ruttkamp-Bloem, Peter-Paul Verbeek, and Yi Zeng.

Virtual discussions also took place from 20 to 24 April 2020. They were attended by more than 40 observers from Member States, and UN and other intergovernmental entities who provided the AHEG with written comments. This resulted in the first version of the Recommendation’s draft text prepared by the AHEG in May 2020, and which was subjected to an extensive multi-stakeholder consultation process from the end of June to early August 2020.

Segunda Reunión Virtual del Grupo de Expertos Ad Hoc (septiembre 2020)

The AHEG started reviewing the feedback received during the multi-stakeholder consultation process from mid-August and met virtually from 31 August to 4 September 2020 to revise the first version of the draft text. During this week, more than 100 observers from 43 Member States, and from UN and other intergovernmental entities, as well as NGOs registered to observe the meeting.

This work culminated in the finalization of a first draft of the Recommendation by the AHEG on 7 September 2020.

Proceso de Consulta de Múltiples Partes Interesadas

La primera versión del proyecto de texto sobre la Recomendación sobre la Ética de la Inteligencia Artificial preparada por el Grupo de Expertos Ad Hoc (AHEG) en mayo de 2020 evolucionó sustancialmente después de un extenso proceso de consulta en línea de múltiples partes interesadas desde finales de junio hasta principios de agosto. 2020. Estas consultas fueron cruciales en el desarrollo de un borrador de texto integral, inclusivo y pluralista que captará los intereses, preocupaciones y puntos de vista de varias partes interesadas involucradas en la IA.

Socios de todo el mundo se reunieron con la UNESCO para organizar este proceso de consulta basado en tres componentes:

  • Consulta pública en línea;
  • Consultas virtuales regionales y subregionales coorganizadas con países anfitriones/instituciones en todas las regiones de la UNESCO;
  • Talleres de deliberación abiertos, de múltiples partes interesadas y ciudadanos en 25 países de todo el mundo con el apoyo de varios socios canadienses y dirigidos por Mila y Algora Lab (Université de Montréal).

También se llevó a cabo una consulta sobre la primera versión del proyecto de recomendación con el sistema de las Naciones Unidas a través del Comité de Programas de Alto Nivel (HLCP), lo que resultó en una contribución de todo el sistema de las Naciones Unidas al AHEG .

El AHEG tuvo en cuenta la diversidad de perspectivas recopiladas durante las consultas al revisar la primera versión del borrador del 31 de agosto al 4 de septiembre de 2020 .

Proceso y Negociaciones Intergubernamentales

El informe preliminar y el primer borrador de la recomendación se transmitieron a los Estados miembros en septiembre de 2020, para sus comentarios por escrito antes del 31 de diciembre de 2020. La directora general tuvo en cuenta estos comentarios escritos al preparar su informe final sobre la Recomendación.

El informe final que contenía un proyecto de texto para la Recomendación fue comunicado a los Estados miembros y presentado a un comité especial de expertos gubernamentales (Categoría II). La reunión del comité especial se llevó a cabo en dos fases, la primera del 26 al 30 de abril de 2021 y la segunda del 21 al 25 de junio de 2021. También se organizaron consultas entre sesiones en el período del 1 al 18 de junio de 2021 (12 días).

Después de meses de diálogo constructivo y negociación, los representantes de los estados miembros de la UNESCO acordaron el proyecto de texto de una nueva plantilla ambiciosa y de amplio alcance para el desarrollo ético y el despliegue de la Inteligencia Artificial.

AI - Artificial intelligence

Descubre nuestros recursos

Recomendación sobre la ética de la inteligencia artificial
UNESCO
2022
UNESCO
0000381137
Inteligencia artificial: promesas y amenazas
July-Sept. 2018
0000265211
Estudio preliminar sobre un posible instrumento normativo relativo a la ética de la inteligencia artificial
30 July 2019
UNESCO
0000369455
Estudio preliminar sobre los aspectos técnicos y jurídicos relativos a la conveniencia de disponer de un instrumento normativo sobre la ética de la inteligencia artificial
21 March 2019
UNESCO
0000367422
Estudio preliminar sobre la Ética de la Inteligencia Artificial (en inglés y francés)
26 February 2019
UNESCO
0000367823
Informe de COMEST sobre ética en robótica (en inglés y francés)
14 Sept. 2017
0000253952