GUÍA de sociedad

Bullying deepfake en las escuelas

El acoso con deepfakes ocurre cuando los estudiantes utilizan herramientas de inteligencia artificial para crear imágenes, videos o audios falsos pero realistas de un compañero o profesor, a menudo de contenido sexualizado, y los comparten para humillar o acosar.

Escuche esta guíaNarrado por IA · ~3 min

En esta pagina4 minutos de lectura
  1. Descripción general
  2. Buceo profundo
  3. Implementación en el mundo real
  4. El futuro del acoso con deepfakes en las escuelas
  5. Poniéndolo en práctica
  6. Sigue explorando
  7. Preguntas frecuentes

Descripción general

Es importante porque las imágenes se pueden crear en segundos a partir de fotos comunes, se difunden rápidamente a través de chats grupales y causan daños duraderos, y las falsificaciones sexuales de menores pueden constituir delitos graves.

Buceo profundo

Deepfake bullying became a widespread school problem once 'nudify' apps and image generators made it possible to turn a clothed social media photo into a fake nude with no technical skill. Reported cases include Almendralejo, Spain, in 2023, where AI nude images of more than twenty girls circulated, and schools in New Jersey and Beverly Hills, California, where students were disciplined or expelled over fakes of classmates. Victims are mostly girls, and the harm resembles having a real intimate image shared: shame, anxiety, avoiding school and fear the image will resurface. The first rule for adults is to protect the victim and preserve evidence without spreading the image. Realistic AI-generated sexual images of minors can count as child sexual abuse material under US federal law and in many other countries, so adults should not screenshot, download or forward them. Instead, record where it appeared, when, account names and who shared it, and report to police and, in the US, to NCMEC's CyberTipline. Take It Down lets families hash an image so platforms can block it; StopNCII.org offers a similar service for adults. In May 2025 the US enacted the TAKE IT DOWN Act, which criminalizes publishing nonconsensual intimate images including AI-generated ones and requires covered platforms to remove them after a valid request. Laws vary by state and country. Schools should treat these incidents as sexual harassment and abuse, not a technology prank. That means clear policies, trained staff, a fast reporting route, support for the targeted student, and proportionate consequences for those who made or shared the image. A common misconception is that labeling an image as fake removes the harm; victim accounts show it does not. Another is that deleting one post solves it, when copies often already exist elsewhere.

Implementación en el mundo real

Un padre descubre que circula un montaje falso y desnudo de su hija en un chat grupal de la clase; anota la fecha, el nombre del chat y quién lo compartió sin guardar ni reenviar la imagen, y luego se pone en contacto con la escuela y la policía.

Una familia utiliza el servicio Take It Down del NCMEC para crear una huella digital de la imagen falsa en su propio dispositivo, de modo que las plataformas participantes puedan detectar y eliminar copias sin necesidad de cargar la imagen.

Una escuela secundaria actualiza su código de conducta para calificar explícitamente las imágenes sexuales generadas por IA como acoso, y realiza una asamblea en la que se explica que "era solo una broma" no constituye una defensa.

Un consejero se reúne con el estudiante afectado el mismo día, le asegura que no hizo nada malo y organiza un adulto de contacto seguro y cambios en el horario para evitar a los estudiantes involucrados.

El futuro del acoso con deepfakes en las escuelas

Las legislaturas de muchos países están añadiendo delitos específicos para la creación o difusión de deepfakes sexuales, y las tiendas de aplicaciones y los proveedores de pagos enfrentan una presión cada vez mayor para eliminar los servicios de desnudez artificial (nudify). Es probable que las escuelas incluyan el abuso de imágenes por IA en la educación sobre ciudadanía digital y consentimiento. Las soluciones técnicas como las etiquetas de procedencia y una mejor coincidencia en las plataformas ayudarán, pero no detendrán a los usuarios decididos que utilicen herramientas locales. Las protecciones duraderas son rutas de denuncia rápidas, personal capacitado, consecuencias claras y una cultura en la que los estudiantes denuncien las falsificaciones en lugar de reenviarlas.

Poniéndolo en práctica

Por qué es importante

  • Riesgo y seguridad. Los daños catastróficos y cotidianos de la IA dependen de quién comprende los riesgos y quién puede actuar.
  • Decisiones más claras. La alfabetización pública y profesional determina si es políticamente posible una política de seguridad sólida.
  • Cortando el bombo. Las explicaciones claras reducen la captación por la exageración, las relaciones públicas de laboratorio y el vago teatro de ética.

cuidado con

  • Tratar el riesgo existencial como ciencia ficción mientras que la capacidad se agrava.
  • Confundir la seguridad del producto superficial con la alineación en condiciones de alta autonomía.
  • Dejando a las audiencias que no hablan inglés ni a expertos solo con fuentes de baja calidad.

Próximos pasos

  1. Separe los riesgos de daños al producto, mal uso y pérdida de control/desalineación.
  2. Pregunte qué evidencia cambiaría su opinión sobre los plazos y la gravedad.
  3. Prefiera fuentes primarias y evaluaciones concretas a afirmaciones de marketing.
  4. Identifique un camino de acción: carrera, política, financiamiento o habilidades, no solo concientización.

Sigue explorando

Boletín gratuito

Recibe el resumen diario de IA

Tres noticias verificadas sobre IA cada mañana de lunes a viernes, explicadas con claridad. Gratis para siempre y sin anuncios.

Un correo cada día laborable. Date de baja con un clic. Nunca vendemos ni compartimos tu dirección.

Ponte a prueba

Realiza el cuestionario sobre el acoso con deepfakes en las escuelas

Corrección inmediata en cada respuesta y un certificado para compartir, con un ID verificable, cuando apruebas un curso.

Empezar el cuestionario

Apoya la educación gratuita sobre IA. AI Understanding es una organización sin fines de lucro 501(c)(3): sin anuncios ni muros de pago, nunca. Hacer una donación

Preguntas frecuentes

¿Qué es el acoso con deepfakes en las escuelas?

El acoso con deepfakes ocurre cuando los estudiantes utilizan herramientas de inteligencia artificial para crear imágenes, videos o audios falsos pero realistas de un compañero o profesor, a menudo de contenido sexualizado, y los comparten para humillar o acosar. Es importante porque las imágenes se pueden crear en segundos a partir de fotos comunes, se difunden rápidamente a través de chats grupales y causan daños duraderos, y las falsificaciones sexuales de menores pueden constituir delitos graves.

Un padre descubre una falsificación sexual de su hijo en un chat grupal. ¿Qué es lo primero que debe hacer con la imagen en sí?

Las imágenes sexuales de menores pueden ser ilegales de poseer o compartir incluso cuando son generadas por IA, por lo que los adultos deben documentar los detalles sin difundir el archivo y reportarlo a la policía y a la escuela.

¿Cómo evita el servicio Take It Down del NCMEC cargar la imagen real?

La herramienta calcula un hash localmente y comparte únicamente esa huella digital con las plataformas participantes, las cuales buscan coincidencias y eliminan las copias.

¿Qué hace la ley TAKE IT_DOWN de EE. UU., promulgada en mayo de 2025?

La ley abarca las imágenes íntimas generadas por IA y exige a las plataformas cubiertas que las eliminen tras una solicitud válida.

¿Por qué las escuelas no deben basar la disciplina principalmente en la puntuación de un detector de deepfakes?

Los detectores se degradan con la compresión de las aplicaciones de mensajería y los nuevos generadores, por lo que el contexto, como los registros de chat y quién publicó primero, es una evidencia más sólida.

¿Cómo indica la guía que las escuelas deben clasificar las imágenes sexuales falsas (deepfakes) de estudiantes?

El daño refleja el intercambio real de imágenes íntimas, por lo que las escuelas deben tratarlo como acoso con políticas adecuadas, apoyo y consecuencias.