DalšíDalší průvodce
TAKE IT DOWN Act a Non-Consensual Deepfake zákony
Společnost
PRŮVODCE společností
Deepfake šikana je, když studenti používají AI nástroje k vytvoření falešných, ale realistických obrázků, videí nebo audia spolužáka či učitele, často sexualizovaných, a sdílejí je za účelem ponížení nebo obtěžování.
Poslechněte si tento návodAI-vyprávěný · ~3 min
Je to důležité, protože obrázky lze během několika sekund vytvořit z běžných fotografií, rychle se šíří skupinovými chaty a způsobují trvalé poškození, a sexuální falešné záznamy nezletilých mohou být vážnými trestnými činy.
Deepfake bullying became a widespread school problem once 'nudify' apps and image generators made it possible to turn a clothed social media photo into a fake nude with no technical skill. Reported cases include Almendralejo, Spain, in 2023, where AI nude images of more than twenty girls circulated, and schools in New Jersey and Beverly Hills, California, where students were disciplined or expelled over fakes of classmates. Victims are mostly girls, and the harm resembles having a real intimate image shared: shame, anxiety, avoiding school and fear the image will resurface. The first rule for adults is to protect the victim and preserve evidence without spreading the image. Realistic AI-generated sexual images of minors can count as child sexual abuse material under US federal law and in many other countries, so adults should not screenshot, download or forward them. Instead, record where it appeared, when, account names and who shared it, and report to police and, in the US, to NCMEC's CyberTipline. Take It Down lets families hash an image so platforms can block it; StopNCII.org offers a similar service for adults. In May 2025 the US enacted the TAKE IT DOWN Act, which criminalizes publishing nonconsensual intimate images including AI-generated ones and requires covered platforms to remove them after a valid request. Laws vary by state and country. Schools should treat these incidents as sexual harassment and abuse, not a technology prank. That means clear policies, trained staff, a fast reporting route, support for the targeted student, and proportionate consequences for those who made or shared the image. A common misconception is that labeling an image as fake removes the harm; victim accounts show it does not. Another is that deleting one post solves it, when copies often already exist elsewhere.
Rodič zjistí, že se v třídním skupinovém chatu šíří nahý falešný obrázek jejich dcery; zapíše si datum, název chatu a kdo jej sdílel, aniž by obrázek ukládal nebo přeposílal, a poté kontaktuje školu i policii.
Rodina využije službu Take It Down od NCMEC k vytvoření digitálního otisku falešného obrázku na svém zařízení, aby ho mohly zapojené platformy detekovat a odstraňovat kopie, aniž by byl obrázek nahrán.
Střední škola aktualizuje svůj kodex chování a výslovně označí AI‑generované sexuální obrázky jako obtěžování a uspořádá shromáždění, kde vysvětlí, že „to byl jen vtip“ není obrana.
Poradce se setká s cílovým studentem tentýž den, ujistí ho, že neudělal nic špatného, a zajistí bezpečného dospělého kontaktu a úpravu rozvrhu, aby se vyhnul zapojeným studentům.
Zákonodárci v mnoha zemích přidávají specifické trestné činy za tvorbu nebo šíření sexuálních deepfake a obchody s aplikacemi a poskytovatelé plateb čelí rostoucímu tlaku na odstranění služeb nudifikace. Školy pravděpodobně zahrnou zneužívání AI obrázků do výuky digitálního občanství a souhlasu. Technická řešení, jako štítky provenance a lepší shoda na platformách, pomohou, ale nezastaví odhodlané uživatele s lokálními nástroji. Trvalá ochrana spočívá v rychlých hlášení, vyškoleném personálu, jasných důsledcích a kultuře, kde studenti hlásí falešné materiály místo jejich šíření.
Newsletter zdarma
Tři ověřené příběhy ze světa AI každý všední den ráno, psané srozumitelnou angličtinou. Navždy zdarma, bez reklam.
Jeden e-mail každý všední den. Odhlásit se můžete jedním kliknutím. Vaši adresu nikdy neprodáváme ani nesdílíme.
Otestujte se
Okamžitá zpětná vazba ke každé odpovědi a sdílitelný certifikát s ověřitelným ID po absolvování kurzu.
Podpořte bezplatnou AI vzdělávání. AI Understanding je nezisková organizace 501(c)(3) — žádné reklamy, žádná platba za přístup, nikdy. Darujte
Deepfake šikana je, když studenti používají AI nástroje k vytvoření falešných, ale realistických obrázků, videí nebo audia spolužáka či učitele, často sexualizovaných, a sdílejí je za účelem ponížení nebo obtěžování. Je to důležité, protože obrázky lze během několika sekund vytvořit z běžných fotografií, rychle se šíří skupinovými chaty a způsobují trvalé poškození, a sexuální falešné záznamy nezletilých mohou být vážnými trestnými činy.
Sexuální obrázky nezletilých mohou být nelegální k vlastnictví nebo šíření i když jsou AI‑generované, takže dospělí by měli zdokumentovat podrobnosti bez šíření souboru a nahlásit to policii i škole.
Nástroj vypočítá hash lokálně a sdílí pouze tento otisk se zapojenými platformami, které najdou shodu a odstraní kopie.
Zákon se vztahuje na AI‑generované intimní obrázky a vyžaduje, aby pokryté platformy po platném požadavku tyto materiály odstranily.
Detektory se zhoršují při kompresi zpráv a nových generátorech, takže kontext jako chatové záznamy a kdo poslal první je silnějším důkazem.
Poškození odráží skutečné sdílení intimních obrázků, takže by školy měly to považovat za obtěžování s odpovídajícími politikami, podporou a následky.
Učte se dál
Pro toto téma bylo vybráno více průvodců
DalšíDalší průvodce
TAKE IT DOWN Act a Non-Consensual Deepfake zákony
Společnost