A continuaciónSiguiente guía
Etiquetas de contenido de IA en plataformas sociales
sociedad
GUÍA de sociedad
Recomendación de la UNESCO sobre la ética de la IA
La Recomendación de la UNESCO sobre la ética de la inteligencia artificial, adoptada en noviembre de 2021 por los 193 Estados miembros de la UNESCO, es el primer estándar mundial sobre ética de la IA y establece valores, principios y áreas políticas concretas para los gobiernos.
Escuche esta guíaNarrado por IA · ~3 min
En esta pagina3 minutos de lectura
Descripción general
No es una ley vinculante, pero brinda a los países un marco compartido y herramientas prácticas, como una evaluación de preparación, para desarrollar políticas de IA basadas en los derechos humanos.
Buceo profundo
La Conferencia General de la UNESCO adoptó la Recomendación en noviembre de 2021. Fue negociada entre todos los Estados miembros de la UNESCO, lo que le otorga una legitimidad inusualmente amplia, especialmente en el Sur Global. Se basa en cuatro valores fundamentales: el respeto de los derechos humanos y la dignidad humana; vivir en sociedades pacíficas, justas e interconectadas; garantizar la diversidad y la inclusión; y el florecimiento del medio ambiente y de los ecosistemas. Siguen diez principios: proporcionalidad y no causar daño, seguridad y protección, privacidad y protección de datos, gobernanza adaptativa y de múltiples partes interesadas, responsabilidad y rendición de cuentas, transparencia y explicabilidad, supervisión y determinación humana, sostenibilidad, concientización y alfabetización, y equidad y no discriminación. Lo que lo distingue son sus once áreas de políticas, que traducen los valores en acción: evaluación del impacto ético; gobernanza y administración éticas; política de datos; desarrollo y cooperación internacional; medio ambiente y ecosistemas; género; cultura; educación e investigación; comunicación e información; economía y trabajo; y salud y bienestar social. El texto también establece que los sistemas de IA no deben utilizarse para puntuación social o vigilancia masiva. Para apoyar la implementación, la UNESCO desarrolló una Metodología de Evaluación de la Preparación que examina el panorama de la IA de un país en sus dimensiones legal y regulatoria, social y cultural, económica, científica y educativa, y tecnológica e infraestructural. Decenas de países han realizado estas evaluaciones. La UNESCO también ofrece una herramienta de Evaluación de Impacto Ético para evaluar sistemas específicos, particularmente en la contratación pública. Un error común es creer que la Recomendación es un tratado ejecutable. Es una recomendación: se espera que los estados la apliquen e informen sobre los avances, pero no hay sanciones. Sus diferencias con las leyes vinculantes como la Ley de IA de la UE son el alcance y la fuerza: cubre la ética en toda la sociedad, mientras que las leyes vinculantes imponen obligaciones específicas y exigibles a los proveedores e implementadores.
Implementación en el mundo real
Un gobierno de África o América Latina trabaja con la UNESCO para completar la Metodología de Evaluación de Preparación y producir un informe nacional sobre las brechas en sus leyes, habilidades e infraestructura de IA.
Una agencia pública utiliza la herramienta de Evaluación de Impacto Ético de la UNESCO para revisar un sistema de inteligencia artificial que planea comprar, verificando cuestiones como la equidad, la privacidad y la supervisión humana antes de la adquisición.
Un ministerio de educación se basa en las disposiciones sobre educación e investigación de la Recomendación para agregar la alfabetización en IA a los programas de formación de docentes.
Una oficina de igualdad de género cita el área de política de género de la Recomendación cuando presiona para que haya más mujeres en la financiación nacional de la investigación sobre IA y para probar sistemas para detectar sesgos de género.
El futuro de la Recomendación de la UNESCO sobre la ética de la IA
La UNESCO continúa ampliando la implementación a través de evaluaciones de preparación, un Foro Global sobre la Ética de la IA y redes de expertos y reguladores. Es probable que su influencia sea más fuerte en los países que aún están desarrollando políticas de IA, donde ofrece una estructura preparada y soporte técnico. Como no es vinculante, su efecto real depende de si los gobiernos lo convierten en leyes, normas de contratación e instituciones. También puede servir como terreno común entre los regímenes regionales vinculantes y los enfoques voluntarios. Quedará más claro si los informes periódicos conducen a cambios mensurables a medida que más países publiquen evaluaciones de seguimiento.
Poniéndolo en práctica
Por qué es importante
- Riesgo y seguridad. Los daños catastróficos y cotidianos de la IA dependen de quién comprende los riesgos y quién puede actuar.
- Decisiones más claras. La alfabetización pública y profesional determina si es políticamente posible una política de seguridad sólida.
- Cortando el bombo. Las explicaciones claras reducen la captación por la exageración, las relaciones públicas de laboratorio y el vago teatro de ética.
cuidado con
- Tratar el riesgo existencial como ciencia ficción mientras que la capacidad se agrava.
- Confundir la seguridad del producto superficial con la alineación en condiciones de alta autonomía.
- Dejando a las audiencias que no hablan inglés ni a expertos solo con fuentes de baja calidad.
Próximos pasos
- Separe los riesgos de daños al producto, mal uso y pérdida de control/desalineación.
- Pregunte qué evidencia cambiaría su opinión sobre los plazos y la gravedad.
- Prefiera fuentes primarias y evaluaciones concretas a afirmaciones de marketing.
- Identifique un camino de acción: carrera, política, financiamiento o habilidades, no solo concientización.
Sigue explorando
Boletín gratuito
Recibe el resumen diario de IA
Tres noticias verificadas sobre IA cada mañana de lunes a viernes, explicadas con claridad. Gratis para siempre y sin anuncios.
Un correo cada día laborable. Date de baja con un clic. Nunca vendemos ni compartimos tu dirección.
Ponte a prueba
Take the UNESCO Recommendation on the Ethics of AI quiz
Corrección inmediata en cada respuesta y un certificado para compartir, con un ID verificable, cuando apruebas un curso.
Apoya la educación gratuita sobre IA. AI Understanding es una organización sin fines de lucro 501(c)(3): sin anuncios ni muros de pago, nunca. Hacer una donación
Preguntas frecuentes
¿Qué es la Recomendación de la UNESCO sobre la ética de la IA?
La Recomendación de la UNESCO sobre la ética de la inteligencia artificial, adoptada en noviembre de 2021 por los 193 Estados miembros de la UNESCO, es el primer estándar mundial sobre ética de la IA y establece valores, principios y áreas políticas concretas para los gobiernos. No es una ley vinculante, pero brinda a los países un marco compartido y herramientas prácticas, como una evaluación de preparación, para desarrollar políticas de IA basadas en los derechos humanos.
¿Cuántos Estados miembros adoptaron la Recomendación?
Los 193 Estados miembros de la UNESCO lo adoptaron, lo que le otorga una amplia legitimidad mundial.
¿Cuál es uno de los cuatro valores fundamentales?
Los cuatro valores son los derechos humanos y la dignidad; sociedades pacíficas, justas e interconectadas; diversidad e inclusión; y el florecimiento del medio ambiente y de los ecosistemas.
¿Qué diferencia a la Recomendación de muchos otros marcos éticos de IA?
Sus once áreas de políticas, desde género hasta medio ambiente y salud, convierten los valores en áreas de acción específicas para los gobiernos.
¿Qué dice la Recomendación sobre la puntuación social y la vigilancia masiva?
El texto establece que los sistemas de IA no deben utilizarse con fines de puntuación social o vigilancia masiva.
¿Para qué se utiliza la Metodología de Evaluación de Preparación?
La RAM es un diagnóstico nacional en cinco dimensiones que produce un informe de país con recomendaciones.
sigue aprendiendo
Guías relacionadas
Más guías seleccionadas para este tema.