A continuaciónSiguiente guía
Principios éticos de la IA de Australia
sociedad
GUÍA de sociedad
Principios de IA de la OCDE
Los Principios de IA de la OCDE, adoptados en mayo de 2019, fueron el primer estándar intergubernamental sobre inteligencia artificial: cinco principios basados en valores para una IA confiable y cinco recomendaciones para los gobiernos.
Escuche esta guíaNarrado por IA · ~3 min
En esta pagina3 minutos de lectura
Descripción general
No son leyes vinculantes, pero dieron forma a los Principios de IA del G20, la definición de sistema de IA de la Ley de IA de la UE y muchas estrategias nacionales de IA.
Buceo profundo
El Consejo de la OCDE adoptó su Recomendación sobre Inteligencia Artificial en mayo de 2019. Los países miembros y varios no miembros se adhirieron a ella, y en junio de 2019 el G20 adoptó los principios de IA extraídos de ella, extendiendo su alcance a las principales economías fuera de la OCDE. Los cinco principios basados en valores para una IA confiable son: crecimiento inclusivo, desarrollo sostenible y bienestar; respeto por el Estado de derecho, los derechos humanos y los valores democráticos, incluidas la equidad y la privacidad; transparencia y explicabilidad; robustez, seguridad y protección; y responsabilidad. Junto a ellas hay cinco recomendaciones para los responsables de la formulación de políticas: invertir en investigación y desarrollo de IA; fomentar un ecosistema inclusivo que permita la IA; permitir un entorno político y de gobernanza interoperable; desarrollar la capacidad humana y prepararse para la transición del mercado laboral; y cooperar a nivel internacional. La OCDE revisó su definición de sistema de IA en noviembre de 2023. Ahora describe un sistema basado en una máquina que, para objetivos explícitos o implícitos, infiere de sus entradas cómo generar resultados como predicciones, contenido, recomendaciones o decisiones que pueden influir en entornos físicos o virtuales, señalando que los sistemas varían en autonomía y adaptabilidad. La definición de la Ley de IA de la UE sigue de cerca esta redacción, lo que ayuda a las empresas y a los reguladores a hablar un lenguaje común. En mayo de 2024, los propios principios se actualizaron para abordar la IA generativa y de propósito general. Los cambios incluyeron una mayor atención a la desinformación y la desinformación, la seguridad, incluida la capacidad de anular o desmantelar de manera segura los sistemas que se comportan de manera no deseada, la sostenibilidad ambiental y la interoperabilidad entre los regímenes de gobernanza. La OCDE apoya los principios con el Observatorio de Políticas OECD.AI, lanzado en 2020, que rastrea las políticas y datos nacionales, y con trabajos como el monitoreo de incidentes. Un error común es creer que los principios imponen obligaciones a las empresas. Son una recomendación a nivel gubernamental; su influencia se produce a través de las leyes, normas y adquisiciones nacionales que las adoptan.
Implementación en el mundo real
Los legisladores de la UE alinearon la definición de sistema de IA de la Ley de IA con la definición actualizada de 2023 de la OCDE, por lo que los dos marcos describen los mismos tipos de sistemas.
Un gobierno nacional que redacta su estrategia de IA organiza sus compromisos en torno a las cinco recomendaciones de la OCDE, como invertir en investigación de IA y preparar a los trabajadores para los cambios del mercado laboral.
Un investigador de políticas utiliza el Observatorio de Políticas OECD.AI para comparar cómo diferentes países financian la investigación sobre IA y la regulan.
La política responsable de IA de una empresa relaciona sus reglas internas con los principios de transparencia, solidez y responsabilidad de la OCDE para mostrar a los clientes que su enfoque sigue una base internacional.
El futuro de los principios de IA de la OCDE
El papel de la OCDE ha crecido como un punto de coordinación más que como un regulador. Apoya la presentación de informes en el marco del Proceso de IA del G7 en Hiroshima y trabaja en el seguimiento y medición de incidentes, lo que podría brindar a los gobiernos evidencia más comparable. Dado que los principios son de alto nivel, su efecto práctico depende de si las leyes nacionales, los organismos de normalización y las normas de contratación siguen haciendo referencia a ellos. La divergencia entre enfoques regionales, como la regulación vinculante de la UE y los regímenes más ligeros en otros lugares, hace que una base compartida sea útil, pero no garantiza la convergencia. Es probable que se realicen más revisiones a medida que cambien las capacidades de la IA.
Poniéndolo en práctica
Por qué es importante
- Riesgo y seguridad. Los daños catastróficos y cotidianos de la IA dependen de quién comprende los riesgos y quién puede actuar.
- Decisiones más claras. La alfabetización pública y profesional determina si es políticamente posible una política de seguridad sólida.
- Cortando el bombo. Las explicaciones claras reducen la captación por la exageración, las relaciones públicas de laboratorio y el vago teatro de ética.
cuidado con
- Tratar el riesgo existencial como ciencia ficción mientras que la capacidad se agrava.
- Confundir la seguridad del producto superficial con la alineación en condiciones de alta autonomía.
- Dejando a las audiencias que no hablan inglés ni a expertos solo con fuentes de baja calidad.
Próximos pasos
- Separe los riesgos de daños al producto, mal uso y pérdida de control/desalineación.
- Pregunte qué evidencia cambiaría su opinión sobre los plazos y la gravedad.
- Prefiera fuentes primarias y evaluaciones concretas a afirmaciones de marketing.
- Identifique un camino de acción: carrera, política, financiamiento o habilidades, no solo concientización.
Sigue explorando
Boletín gratuito
Recibe el resumen diario de IA
Tres noticias verificadas sobre IA cada mañana de lunes a viernes, explicadas con claridad. Gratis para siempre y sin anuncios.
Un correo cada día laborable. Date de baja con un clic. Nunca vendemos ni compartimos tu dirección.
Ponte a prueba
Responda el cuestionario sobre los principios de la IA de la OCDE
Corrección inmediata en cada respuesta y un certificado para compartir, con un ID verificable, cuando apruebas un curso.
Apoya la educación gratuita sobre IA. AI Understanding es una organización sin fines de lucro 501(c)(3): sin anuncios ni muros de pago, nunca. Hacer una donación
Preguntas frecuentes
¿Qué son los principios de IA de la OCDE?
Los Principios de IA de la OCDE, adoptados en mayo de 2019, fueron el primer estándar intergubernamental sobre inteligencia artificial: cinco principios basados en valores para una IA confiable y cinco recomendaciones para los gobiernos. No son leyes vinculantes, pero dieron forma a los Principios de IA del G20, la definición de sistema de IA de la Ley de IA de la UE y muchas estrategias nacionales de IA.
¿Cuándo se adoptaron por primera vez los Principios de IA de la OCDE?
El Consejo de la OCDE adoptó su Recomendación sobre IA en mayo de 2019, el primer estándar intergubernamental de IA.
¿Cuál de estos es uno de los cinco principios basados en valores?
Los cinco son crecimiento y bienestar inclusivos; estado de derecho, derechos humanos y valores democráticos; transparencia y explicabilidad; robustez, seguridad y protección; y responsabilidad.
¿Qué elemento es una recomendación para los responsables de la formulación de políticas en lugar de un principio basado en valores?
La creación de capacidad humana es una de las cinco recomendaciones a los gobiernos; los demás enumerados son principios basados en valores.
¿Qué organismo adoptó los principios de IA en junio de 2019 extraídos de los de la OCDE?
Los Principios de IA del G20 se basaron en la Recomendación de la OCDE, extendiendo su alcance más allá de los miembros de la OCDE.
¿Qué palabra en la definición de la OCDE distingue más a los sistemas de IA del simple software basado en reglas?
La definición dice que un sistema de IA infiere a partir de las entradas cómo generar salidas, lo cual es clave para la mayoría de las lecturas del alcance.
sigue aprendiendo
Guías relacionadas
Más guías seleccionadas para este tema.