A continuaciónSiguiente guía
Medidas de revisión ética de China para la investigación en IA
sociedad
GUÍA de sociedad
Medidas provisionales de IA generativa de China
Las Medidas Provisionales de China para la Gestión de Servicios de Inteligencia Artificial Generativa, vigentes desde el 15 de agosto de 2023, establecen las reglas para los chatbots, generadores de imágenes y otras IA generativas que se ofrecen al público en China continental.
Escuche esta guíaNarrado por IA · ~3 min
En esta pagina4 minutos de lectura
Descripción general
Cubren estándares de contenido, datos de capacitación, etiquetado y protección del usuario, y requieren que los proveedores con influencia en la opinión pública completen evaluaciones de seguridad y presentación de algoritmos. Importan porque convirtieron a China en una de las primeras economías importantes con reglas vinculantes escritas específicamente para la IA generativa.
Buceo profundo
La Administración del Ciberespacio de China (CAC) emitió las Medidas Provisionales en julio de 2023 junto con otras seis agencias, incluida la Comisión Nacional de Desarrollo y Reforma, el Ministerio de Educación, el Ministerio de Ciencia y Tecnología, el Ministerio de Industria y Tecnología de la Información y el Ministerio de Seguridad Pública. Se aplican a los servicios de IA generativa ofrecidos al público en China continental. La investigación y el desarrollo que no se ofrecen al público quedan en gran medida excluidos. Las reglas de contenido requieren que los proveedores defiendan los "valores socialistas fundamentales" y no generen contenido que socave el poder estatal, la unidad nacional o la estabilidad social, o que difunda información falsa o dañina. Los proveedores también deben tomar medidas contra la discriminación, proteger la propiedad intelectual y los secretos comerciales, y respetar los derechos personales como la privacidad y la reputación. En cuanto a los datos de formación, los proveedores deben utilizar fuentes lícitas, evitar infringir la propiedad intelectual, tener una base legal como el consentimiento para la información personal y mejorar la calidad, veracidad, exactitud, objetividad y diversidad de sus datos. El etiquetado de datos humanos debe seguir reglas claras y verificar su calidad. Las medidas se relacionan con regulaciones anteriores. Los servicios con "atributos de opinión pública o capacidad de movilización social" deben someterse a evaluaciones de seguridad y presentar sus algoritmos según las reglas de recomendación de algoritmos de 2022, y el contenido generado debe etiquetarse según las reglas de síntesis profunda. La CAC mantiene el sistema de archivo y publica listas de servicios presentados. El borrador de abril de 2023 fue más estricto. Requería que el contenido generado fuera verdadero y preciso, lo que habría sido casi imposible para los modelos de lenguaje que pueden alucinar. El texto final suavizó esto al deber de tomar medidas efectivas para mejorar la precisión y la confiabilidad, y agregó lenguaje que apoya la innovación. Las medidas no prohíben toda la IA extranjera. En lugar de eso, dejaron que la CAC tomara medidas técnicas contra los servicios de fuera de China que violaran las reglas.
Implementación en el mundo real
Antes de que una empresa china pueda abrir su chatbot al público, normalmente completa una evaluación de seguridad y presenta su algoritmo a la Administración del Ciberespacio de China. Sólo después de que se acepta su presentación se lanza ampliamente.
Un proveedor que cree un corpus de capacitación debe detectar contenido ilegal, utilizar datos obtenidos de forma legal, respetar la propiedad intelectual y obtener el consentimiento u otra base legal antes de utilizar información personal.
Una aplicación de IA para el consumidor debe establecer canales de quejas y denuncias, etiquetar las imágenes y videos generados por IA según las profundas reglas de síntesis de China y tomar medidas para evitar que los menores se vuelvan demasiado dependientes del servicio.
Una empresa que utiliza un modelo grande sólo internamente para investigación, sin ofrecerlo al público en China, generalmente queda fuera de las principales obligaciones de las medidas.
El futuro de las medidas provisionales de IA generativa de China
Las medidas están etiquetadas como provisionales. En los planes de trabajo legislativo del Consejo de Estado ha aparecido una ley integral sobre IA, pero no se ha adoptado ninguna. Mientras tanto, China sigue añadiendo reglas específicas, como requisitos de etiquetado obligatorios y nuevas normas nacionales, por lo que el sistema general crece en capas. La forma estricta en que se aplican las reglas de contenido puede cambiar según las prioridades políticas y las campañas de aplicación de la CAC. Para las empresas globales, una pregunta abierta clave es cómo interactuará el enfoque basado en presentaciones de China con las reglas de IA de otros países, especialmente cuando los datos de entrenamiento y el acceso a modelos cruzan fronteras.
Poniéndolo en práctica
Por qué es importante
- Riesgo y seguridad. Los daños catastróficos y cotidianos de la IA dependen de quién comprende los riesgos y quién puede actuar.
- Decisiones más claras. La alfabetización pública y profesional determina si es políticamente posible una política de seguridad sólida.
- Cortando el bombo. Las explicaciones claras reducen la captación por la exageración, las relaciones públicas de laboratorio y el vago teatro de ética.
cuidado con
- Tratar el riesgo existencial como ciencia ficción mientras que la capacidad se agrava.
- Confundir la seguridad del producto superficial con la alineación en condiciones de alta autonomía.
- Dejando a las audiencias que no hablan inglés ni a expertos solo con fuentes de baja calidad.
Próximos pasos
- Separe los riesgos de daños al producto, mal uso y pérdida de control/desalineación.
- Pregunte qué evidencia cambiaría su opinión sobre los plazos y la gravedad.
- Prefiera fuentes primarias y evaluaciones concretas a afirmaciones de marketing.
- Identifique un camino de acción: carrera, política, financiamiento o habilidades, no solo concientización.
Sigue explorando
Boletín gratuito
Recibe el resumen diario de IA
Tres noticias verificadas sobre IA cada mañana de lunes a viernes, explicadas con claridad. Gratis para siempre y sin anuncios.
Un correo cada día laborable. Date de baja con un clic. Nunca vendemos ni compartimos tu dirección.
Ponte a prueba
Take the China's Generative AI Interim Measures quiz
Corrección inmediata en cada respuesta y un certificado para compartir, con un ID verificable, cuando apruebas un curso.
Apoya la educación gratuita sobre IA. AI Understanding es una organización sin fines de lucro 501(c)(3): sin anuncios ni muros de pago, nunca. Hacer una donación
Preguntas frecuentes
¿Qué son las medidas provisionales sobre IA generativa de China?
Las Medidas Provisionales de China para la Gestión de Servicios de Inteligencia Artificial Generativa, vigentes desde el 15 de agosto de 2023, establecen las reglas para los chatbots, generadores de imágenes y otras IA generativas que se ofrecen al público en China continental. Cubren estándares de contenido, datos de capacitación, etiquetado y protección del usuario, y requieren que los proveedores con influencia en la opinión pública completen evaluaciones de seguridad y presentación de algoritmos. Importan porque convirtieron a China en una de las primeras economías importantes con reglas vinculantes escritas específicamente para la IA generativa.
¿Cuándo entraron en vigor las medidas provisionales de China para los servicios de IA generativa?
La CAC y otras seis agencias emitieron las medidas en julio de 2023 y entraron en vigor el 15 de agosto de 2023.
¿Qué actividad queda generalmente fuera de las principales obligaciones de las medidas?
Las medidas se aplican a los servicios de IA generativa prestados al público en China continental. La investigación y el desarrollo que no se ofrecen al público quedan en gran medida excluidos.
¿Qué servicios deben someterse a una evaluación de seguridad y presentación de algoritmos?
Las medidas requieren que los servicios con atributos de opinión pública o capacidad de movilización social completen evaluaciones de seguridad y presentación de algoritmos según las reglas de recomendación de algoritmos anteriores.
¿Qué organismo lidera la aplicación de las medidas?
La Administración del Ciberespacio de China emitió las medidas junto con otras agencias, administra el sistema de archivo y lidera la aplicación de las medidas.
¿Cómo cambiaron las medidas finales el requisito de precisión del borrador de abril de 2023?
El borrador requería que el contenido generado fuera verdadero y preciso, lo cual no es práctico para modelos que pueden alucinar. El texto final cambió esto por el deber de tomar medidas efectivas para mejorar la precisión y la confiabilidad.
sigue aprendiendo
Guías relacionadas
Más guías seleccionadas para este tema.