que paso
The Verge informa que Instagram está cambiando la forma en que etiqueta los perfiles que presentan personas generadas por IA. La plataforma cambiará el nombre de su etiqueta "creador de IA" a "perfil generado por IA" y limitará el alcance de las cuentas que no se autoetiquetan.
The Verge informa que Instagram está respondiendo al aumento de cuentas de influencers de IA que son cada vez más difíciles de distinguir de los perfiles que representan a personas reales. La plataforma está cambiando el nombre de su etiqueta existente de "creador de IA" a "perfil generado por IA". Instagram dijo, en una publicación de blog citada por The Verge, que los usuarios quieren saber cuándo un perfil presenta a una persona generada por IA en lugar de un ser humano real. El cambio de redacción tiene como objetivo hacer esa distinción más explícita. Por lo tanto, la terminología reportada describe la cuenta en sí, no simplemente una imagen, video o título individual que puede haber utilizado una herramienta de inteligencia artificial.
Según The Verge, Instagram buscará cuentas que presenten perfiles generados por IA pero que no se etiqueten. La sanción reportada es una reducción en la distribución en lugar de la eliminación del servicio. Las publicaciones de cuentas que Instagram marque no se recomendarán a personas que aún no las sigan en Reels y Explore. The Verge también informa que los propietarios de perfiles pueden apelar si Instagram los marca incorrectamente. Eso hace que el cambio informado sea una consecuencia de distribución vinculada a la divulgación, y la opción de apelación sirve como remedio declarado para una marca incorrecta.
La política informada tiene un límite específico. Instagram le dijo a The Verge que las personas que usan herramientas de inteligencia artificial para generar contenido no necesariamente necesitan agregar la etiqueta. Por lo tanto, la acción se refiere a perfiles que presentan a una persona generada por IA como el sujeto aparente de una cuenta, en lugar de cada publicación que ha sido editada, mejorada o realizada de otro modo con IA. La fuente no proporciona un cronograma de implementación, criterios de detección, ejemplos de decisiones de cumplimiento o datos que muestren cuántas cuentas podrían verse afectadas. En otras palabras, el informe proporcionado traza una línea entre la identidad sintética y el uso de IA durante la producción, dejando abiertos los detalles de implementación.
Detalles de la fuente: theverge.com ↗
Por qué es importante
El cambio se dirige a personas generadas por IA que pueden parecer personas reales, pero no crea un filtro general para el contenido creado por IA. The Verge informa que las publicaciones afectadas serán excluidas de las recomendaciones a los no seguidores en Reels y Explore, mientras que los propietarios pueden apelar las decisiones equivocadas.
El cambio aborda una forma particular de confusión: una cuenta puede parecer un perfil personal o de influencer común y corriente incluso cuando la persona representada no existe. The Verge informa que el razonamiento de Instagram se basa en que los usuarios descubren sólo más tarde que un perfil aparentemente humano fue generado por IA. Una etiqueta visible a nivel de perfil podría brindar a los usuarios un contexto importante antes de seguir, compartir o confiar en la presentación de la cuenta. El beneficio previsto es el contexto en el punto donde se encuentra el perfil, antes de que la presentación de la cuenta se tome al pie de la letra.
La penalización por alcance también cambia los riesgos prácticos para los operadores de cuentas. Si las publicaciones se excluyen de las recomendaciones para los no seguidores en Reels y Explore, un perfil sin etiqueta generado por IA puede tener menos capacidad de crecer más allá de su audiencia existente. Esto es materialmente diferente de una etiqueta que simplemente agrega información sin modificar la distribución. Al mismo tiempo, The Verge no informa sobre ninguna política de eliminación, sanción financiera o prohibición general de los perfiles generados por IA. La diferencia es importante porque la exposición a las recomendaciones es parte de cómo una cuenta llega a las personas que no han elegido seguirla.
La política está limitada en aspectos que son importantes para los usuarios que intentan comprender lo que ven. The Verge informa que el contenido generado por IA en sí no siempre requiere la etiqueta de perfil, por lo que el cambio no brindará a las personas una forma integral de identificar o filtrar todas las imágenes, videos o subtítulos creados por IA. También deja sin resolver cómo Instagram distinguirá una persona totalmente sintética de una persona real utilizando herramientas de inteligencia artificial. El informe no establece de forma independiente qué tan precisa será la detección de Instagram, con qué frecuencia pueden ocurrir falsos positivos o si la nueva redacción mejorará la comprensión del usuario. Esa limitación significa que la etiqueta debe leerse como una señal específica del perfil, no como una descripción completa de las herramientas utilizadas para realizar una publicación individual.
Mecanismo interactivo: cómo funciona realmente
Explore la tecnología subyacente detrás de este desarrollo de forma interactiva.
crm_get_transaction(id='4092').Why can ethical evaluation not be reduced to one model score?
Qué ver a continuación
Las incógnitas clave son cómo Instagram identifica un perfil generado por IA, con qué coherencia aplica la etiqueta y los límites de alcance, y cómo funcionan las apelaciones. El efecto de la política también dependerá de si los usuarios pueden distinguir a las personas generadas por IA de los perfiles comunes y del contenido asistido por IA.
La primera pregunta práctica es cómo determinará Instagram que un perfil presenta a una persona generada por IA. The Verge informa que Instagram planea buscar cuentas que no se autoetiquetan, pero el artículo no describe las señales, el proceso de revisión o el umbral utilizado para tomar esa determinación. Esté atento a las pautas de aplicación publicadas, ejemplos de perfiles marcados y evidencia sobre si el sistema se basa en detección automatizada, informes de usuarios, revisión humana o una combinación de métodos. Sin esos detalles, la fuente establece el objetivo planificado pero no el estándar operativo Instagram que se aplicará en la práctica.
El proceso de apelación será importante porque la consecuencia informada afecta la distribución y no sólo la divulgación. Instagram dice que los propietarios pueden apelar cuando se les marca incorrectamente, según The Verge, pero la fuente no dice qué tan rápido se revisarán las apelaciones, si se restablecerá el alcance durante la revisión o qué evidencia pueden presentar los propietarios de cuentas. Esos detalles determinarán si la política funciona como una medida de transparencia específica o crea un riesgo sustancial de supresión por error. Por lo tanto, la descripción disponible identifica una vía de apelación sin establecer sus salvaguardias, su calendario o su resultado probable.
El problema más amplio sin resolver es el límite entre un perfil generado por IA y una publicación ordinaria asistida por IA. La posición informada por Instagram es que el uso de herramientas de inteligencia artificial para crear contenido no requiere por sí solo la etiqueta. Esté atento a si los usuarios pueden comprender de manera confiable esa distinción, si Instagram expande el etiquetado a otras formas de medios sintéticos y si los límites de alcance reducen de manera mensurable la propagación de personas de IA no reveladas. El informe de The Verge aún no proporciona una medición independiente de la eficacia de la política. Esas preguntas permanecen abiertas en el informe suministrado, que describe la política pero aún no proporciona una evaluación de los resultados.