A continuaciónSiguiente guía
Normas del Consejo de Derechos Civiles de California sobre la IA en el empleo
sociedad
GUÍA de sociedad
Convenio Marco del Consejo de Europa sobre IA
El Convenio Marco del Consejo de Europa sobre Inteligencia Artificial y Derechos Humanos, Democracia y Estado de Derecho es el primer tratado internacional jurídicamente vinculante sobre IA.
Escuche esta guíaNarrado por IA · ~3 min
En esta pagina4 minutos de lectura
Descripción general
Los países que lo ratifiquen deben asegurarse de que los sistemas de IA utilizados durante todo su ciclo de vida respeten los derechos humanos, los procesos democráticos y el estado de derecho. Es importante porque establece deberes legales compartidos que van más allá de Europa, y los países fuera de Europa pueden unirse a él.
Buceo profundo
El Convenio fue negociado por el Comité de Inteligencia Artificial (CAI) del Consejo de Europa. Participaron los 46 Estados miembros del Consejo de Europa, la Unión Europea y países observadores como Estados Unidos, Canadá, Japón, Israel y Australia. El Comité de Ministros adoptó el texto el 17 de mayo de 2024 y se abrió a la firma en Vilnius el 5 de septiembre de 2024. Los primeros firmantes incluyeron el Reino Unido, los Estados Unidos, la UE, Noruega, Israel, Islandia, Georgia, Moldavia, Andorra y San Marino, y otros estados firmaron posteriormente. Entra en vigor tras cinco ratificaciones, de las cuales al menos tres deben ser Estados miembros del Consejo de Europa. El tratado establece principios generales en lugar de reglas técnicas detalladas. Los principios son dignidad humana y autonomía individual, igualdad y no discriminación, privacidad y protección de datos personales, transparencia y supervisión, rendición de cuentas y responsabilidad, confiabilidad e innovación segura. Las partes también deben proporcionar soluciones. Eso significa documentar información relevante sobre los sistemas de IA, permitir que las personas cuestionen las decisiones, ofrecer garantías procesales e informarles cuándo están tratando con un sistema de IA. El alcance es un compromiso. El tratado se aplica plenamente a las autoridades públicas y a los actores privados que actúan en su nombre. Para el resto del sector privado, cada parte puede aplicar las obligaciones del tratado directamente o tomar otras medidas apropiadas. Se excluyen las actividades para proteger la seguridad nacional, al igual que las cuestiones de defensa nacional y la investigación y desarrollo de sistemas que aún no están disponibles para su uso. Un error común es creer que el tratado es una copia de la Ley de IA de la UE. La Ley de IA es un reglamento de la UE que clasifica los sistemas en niveles de riesgo y establece obligaciones de seguridad de los productos. La Convención es un instrumento internacional de derechos humanos. La UE lo firmó y se basa principalmente en la Ley de IA y la legislación vigente de la UE para cumplir con sus obligaciones.
Implementación en el mundo real
Una agencia gubernamental que utilice una herramienta de inteligencia artificial para detectar fraudes en las prestaciones necesitaría evaluaciones de riesgos e impactos, documentación y una forma para que las personas afectadas cuestionen las decisiones que afectan significativamente sus derechos.
A un ciudadano que habla con un chatbot de servicio público se le debe decir que está interactuando con un sistema de inteligencia artificial en lugar de con un humano.
Un país ratificante puede decidir que las empresas privadas que utilizan la IA en la contratación deben cumplir directamente los principios del tratado, o puede tomar otras medidas apropiadas para alcanzar los mismos objetivos.
Una autoridad electoral preocupada por la desinformación impulsada por la IA puede señalar el deber del tratado de proteger la integridad de los procesos democráticos cuando diseña salvaguardas.
El futuro del Convenio Marco del Consejo de Europa sobre IA
La importancia del Convenio dependerá de las ratificaciones y de cuán estrictamente los países traten al sector privado. Los países que eligen "otras medidas apropiadas" pueden implementarlas de manera muy diferente a los países que las aplican directamente a las empresas. La Conferencia de las Partes y herramientas como HUDERIA podrían generar lentamente expectativas compartidas, de manera muy similar a como lo hicieron los tratados anteriores del Consejo de Europa para la protección de datos. Esté atento a qué países no europeos la ratifican, cómo la utilizan los tribunales nacionales y cómo interactúa con la Ley de IA de la UE y las leyes nacionales de IA. Su alcance es amplio, pero su aplicación depende de sistemas nacionales más que de un regulador internacional.
Poniéndolo en práctica
Por qué es importante
- Riesgo y seguridad. Los daños catastróficos y cotidianos de la IA dependen de quién comprende los riesgos y quién puede actuar.
- Decisiones más claras. La alfabetización pública y profesional determina si es políticamente posible una política de seguridad sólida.
- Cortando el bombo. Las explicaciones claras reducen la captación por la exageración, las relaciones públicas de laboratorio y el vago teatro de ética.
cuidado con
- Tratar el riesgo existencial como ciencia ficción mientras que la capacidad se agrava.
- Confundir la seguridad del producto superficial con la alineación en condiciones de alta autonomía.
- Dejando a las audiencias que no hablan inglés ni a expertos solo con fuentes de baja calidad.
Próximos pasos
- Separe los riesgos de daños al producto, mal uso y pérdida de control/desalineación.
- Pregunte qué evidencia cambiaría su opinión sobre los plazos y la gravedad.
- Prefiera fuentes primarias y evaluaciones concretas a afirmaciones de marketing.
- Identifique un camino de acción: carrera, política, financiamiento o habilidades, no solo concientización.
Sigue explorando
Boletín gratuito
Recibe el resumen diario de IA
Tres noticias verificadas sobre IA cada mañana de lunes a viernes, explicadas con claridad. Gratis para siempre y sin anuncios.
Un correo cada día laborable. Date de baja con un clic. Nunca vendemos ni compartimos tu dirección.
Ponte a prueba
Realice el cuestionario del Convenio Marco del Consejo de Europa sobre IA
Corrección inmediata en cada respuesta y un certificado para compartir, con un ID verificable, cuando apruebas un curso.
Apoya la educación gratuita sobre IA. AI Understanding es una organización sin fines de lucro 501(c)(3): sin anuncios ni muros de pago, nunca. Hacer una donación
Preguntas frecuentes
¿Qué es el Convenio Marco del Consejo de Europa sobre IA?
El Convenio Marco del Consejo de Europa sobre Inteligencia Artificial y Derechos Humanos, Democracia y Estado de Derecho es el primer tratado internacional jurídicamente vinculante sobre IA. Los países que lo ratifiquen deben asegurarse de que los sistemas de IA utilizados durante todo su ciclo de vida respeten los derechos humanos, los procesos democráticos y el estado de derecho. Es importante porque establece deberes legales compartidos que van más allá de Europa, y los países fuera de Europa pueden unirse a él.
¿Qué hace que el Convenio Marco del Consejo de Europa sobre IA sea históricamente notable?
La Convención es el primer tratado internacional sobre IA que vincula a los estados que lo ratifican. Los códigos voluntarios y los reglamentos de la UE son tipos diferentes de instrumentos.
¿Dónde se abrió la Convención a la firma en septiembre de 2024?
Se abrió a la firma en Vilna, Lituania, el 5 de septiembre de 2024, durante una conferencia ministerial del Consejo de Europa.
¿Cómo trata el tratado a las empresas privadas que no actúan para las autoridades públicas?
Este fue un compromiso negociado. El sector público está totalmente cubierto y cada estado elige cómo abordar el uso de IA en otros sectores privados.
¿Qué actividades están excluidas del alcance del tratado?
Se excluyen las actividades para proteger la seguridad nacional y los asuntos de defensa nacional. También lo es la I+D en sistemas que aún no están disponibles para su uso.
¿Qué es HUDERIA?
HUDERIA fue adoptada por la CAI para ayudar a evaluar los impactos de la IA en los derechos humanos, la democracia y el estado de derecho. Es una guía, no una parte vinculante del tratado.
sigue aprendiendo
Guías relacionadas
Más guías seleccionadas para este tema.