A continuaciónSiguiente guía
Ley TAKE IT DOWN y leyes de deepfake no consensuales
sociedad
GUÍA de sociedad
El acoso con deepfakes ocurre cuando los estudiantes utilizan herramientas de inteligencia artificial para crear imágenes, videos o audios falsos pero realistas de un compañero o profesor, a menudo de contenido sexualizado, y los comparten para humillar o acosar.
Escuche esta guíaNarrado por IA · ~3 min
Es importante porque las imágenes se pueden crear en segundos a partir de fotos comunes, se difunden rápidamente a través de chats grupales y causan daños duraderos, y las falsificaciones sexuales de menores pueden constituir delitos graves.
Deepfake bullying became a widespread school problem once 'nudify' apps and image generators made it possible to turn a clothed social media photo into a fake nude with no technical skill. Reported cases include Almendralejo, Spain, in 2023, where AI nude images of more than twenty girls circulated, and schools in New Jersey and Beverly Hills, California, where students were disciplined or expelled over fakes of classmates. Victims are mostly girls, and the harm resembles having a real intimate image shared: shame, anxiety, avoiding school and fear the image will resurface. The first rule for adults is to protect the victim and preserve evidence without spreading the image. Realistic AI-generated sexual images of minors can count as child sexual abuse material under US federal law and in many other countries, so adults should not screenshot, download or forward them. Instead, record where it appeared, when, account names and who shared it, and report to police and, in the US, to NCMEC's CyberTipline. Take It Down lets families hash an image so platforms can block it; StopNCII.org offers a similar service for adults. In May 2025 the US enacted the TAKE IT DOWN Act, which criminalizes publishing nonconsensual intimate images including AI-generated ones and requires covered platforms to remove them after a valid request. Laws vary by state and country. Schools should treat these incidents as sexual harassment and abuse, not a technology prank. That means clear policies, trained staff, a fast reporting route, support for the targeted student, and proportionate consequences for those who made or shared the image. A common misconception is that labeling an image as fake removes the harm; victim accounts show it does not. Another is that deleting one post solves it, when copies often already exist elsewhere.
Un padre descubre que circula un montaje falso y desnudo de su hija en un chat grupal de la clase; anota la fecha, el nombre del chat y quién lo compartió sin guardar ni reenviar la imagen, y luego se pone en contacto con la escuela y la policía.
Una familia utiliza el servicio Take It Down del NCMEC para crear una huella digital de la imagen falsa en su propio dispositivo, de modo que las plataformas participantes puedan detectar y eliminar copias sin necesidad de cargar la imagen.
Una escuela secundaria actualiza su código de conducta para calificar explícitamente las imágenes sexuales generadas por IA como acoso, y realiza una asamblea en la que se explica que "era solo una broma" no constituye una defensa.
Un consejero se reúne con el estudiante afectado el mismo día, le asegura que no hizo nada malo y organiza un adulto de contacto seguro y cambios en el horario para evitar a los estudiantes involucrados.
Las legislaturas de muchos países están añadiendo delitos específicos para la creación o difusión de deepfakes sexuales, y las tiendas de aplicaciones y los proveedores de pagos enfrentan una presión cada vez mayor para eliminar los servicios de desnudez artificial (nudify). Es probable que las escuelas incluyan el abuso de imágenes por IA en la educación sobre ciudadanía digital y consentimiento. Las soluciones técnicas como las etiquetas de procedencia y una mejor coincidencia en las plataformas ayudarán, pero no detendrán a los usuarios decididos que utilicen herramientas locales. Las protecciones duraderas son rutas de denuncia rápidas, personal capacitado, consecuencias claras y una cultura en la que los estudiantes denuncien las falsificaciones en lugar de reenviarlas.
Boletín gratuito
Tres noticias verificadas sobre IA cada mañana de lunes a viernes, explicadas con claridad. Gratis para siempre y sin anuncios.
Un correo cada día laborable. Date de baja con un clic. Nunca vendemos ni compartimos tu dirección.
Ponte a prueba
Corrección inmediata en cada respuesta y un certificado para compartir, con un ID verificable, cuando apruebas un curso.
Apoya la educación gratuita sobre IA. AI Understanding es una organización sin fines de lucro 501(c)(3): sin anuncios ni muros de pago, nunca. Hacer una donación
El acoso con deepfakes ocurre cuando los estudiantes utilizan herramientas de inteligencia artificial para crear imágenes, videos o audios falsos pero realistas de un compañero o profesor, a menudo de contenido sexualizado, y los comparten para humillar o acosar. Es importante porque las imágenes se pueden crear en segundos a partir de fotos comunes, se difunden rápidamente a través de chats grupales y causan daños duraderos, y las falsificaciones sexuales de menores pueden constituir delitos graves.
Las imágenes sexuales de menores pueden ser ilegales de poseer o compartir incluso cuando son generadas por IA, por lo que los adultos deben documentar los detalles sin difundir el archivo y reportarlo a la policía y a la escuela.
La herramienta calcula un hash localmente y comparte únicamente esa huella digital con las plataformas participantes, las cuales buscan coincidencias y eliminan las copias.
La ley abarca las imágenes íntimas generadas por IA y exige a las plataformas cubiertas que las eliminen tras una solicitud válida.
Los detectores se degradan con la compresión de las aplicaciones de mensajería y los nuevos generadores, por lo que el contexto, como los registros de chat y quién publicó primero, es una evidencia más sólida.
El daño refleja el intercambio real de imágenes íntimas, por lo que las escuelas deben tratarlo como acoso con políticas adecuadas, apoyo y consecuencias.
sigue aprendiendo
Más guías seleccionadas para este tema.
A continuaciónSiguiente guía
Ley TAKE IT DOWN y leyes de deepfake no consensuales
sociedad