PRŮVODCE společností

Nekonsensuální snímky AI: zákony a ochrany

Nekonsensuální snímky umělé inteligence znamenají sexuální nebo intimní snímky skutečné osoby vytvořené nebo pozměněné pomocí umělé inteligence bez jejího souhlasu, často nazývané hluboce falešné akty.

Poslechněte si tento návodAI-vyprávěný · ~3 min

Na této stránce4 min čtení
  1. Přehled
  2. Hluboký ponor
  3. Real-World Implementace
  4. Budoucnost nekonsensuálního zobrazování AI: zákony a ochrany
  5. Uvedení do praxe
  6. Pokračujte v objevování
  7. Často kladené otázky

Přehled

Ve Spojených státech činí zákon TAKE IT DOWN z roku 2025 vědomé zveřejňování takových obrázků federálním zločinem a vyžaduje, aby je platformy odstranily do 48 hodin od platné žádosti. Znalost zákonů, tras a podpůrných služeb pomáhá obětem jednat rychle a pomáhá ostatním vyhnout se způsobení újmy.

Hluboký ponor

Tools that swap faces or "undress" photos have made it simple to produce realistic intimate images of anyone with a few public photos. Victims include public figures, but also students, coworkers and former partners. The harm is real even though the image is fake: harassment, extortion, reputational and professional damage, and severe distress. In the United States, the TAKE IT DOWN Act was signed into law on May 19, 2025. It makes it a federal crime to knowingly publish non-consensual intimate imagery, explicitly including AI-generated "digital forgeries," and to threaten to publish it. Covered platforms had one year, until May 2026, to set up a notice-and-removal process, and must remove reported images within 48 hours of a valid request, making reasonable efforts to remove identical copies. The Federal Trade Commission enforces the platform duties. Civil liberties groups raised concerns that the takedown system could be misused to remove lawful content. Nearly every US state also has a law on non-consensual intimate images, and many have updated them to cover deepfakes. AI-generated sexual imagery of minors can be prosecuted under child sexual abuse material laws. Outside the US, the UK made sharing intimate deepfakes an offense under the Online Safety Act 2023 and has since legislated against creating them. A 2024 EU directive on violence against women requires member states to criminalize producing or sharing such images. Support resources include StopNCII.org for adults, NCMEC's Take It Down service for images taken of someone under 18, the Cyber Civil Rights Initiative's crisis helpline in the US, the Revenge Porn Helpline in the UK, and search engine removal forms. A common misconception is that nothing can be done because the image is fake. Many laws now specifically cover synthetic images, and platforms prohibit them. Another is that victims must share the image to get help; hashing services avoid that.

Real-World Implementace

Vysokoškolská studentka na sociální platformě najde falešnou explicitní fotku sebe sama, uloží si adresu URL a snímky obrazovky s daty a podá žádost o odstranění, přičemž platformy, na které se vztahuje zákon TAKE IT DOWN, musí jednat do 48 hodin.

Dospělá osoba, která se obává, že by se mohl šířit intimní obrázek nebo obrázek upravený umělou inteligencí, používá StopNCII.org k vytvoření hash na svém vlastním zařízení, takže partnerské platformy mohou blokovat odpovídající nahrávání, aniž by obrázek kdy sdílela.

Rodič se dozví, že spolužáci vytvořili falešné nahé snímky jejich 15letého dítěte pomocí aplikace nudify, snímky neuloží ani nepřepošle a nahlásí je CyberTipline NCMEC a škole.

Muž, jehož explicitní obrázek generovaný umělou inteligencí se zobrazuje ve výsledcích vyhledávání, použije formulář žádosti Google o odstranění nesouhlasných explicitních snímků, včetně syntetických obrázků, z vyhledávání.

Budoucnost nekonsensuálního zobrazování AI: zákony a ochrany

Právní ochrana se rozšiřuje: více jurisdikcí kriminalizuje vytváření i sdílení a platformy čelí explicitním lhůtám pro odstranění. Mezi otevřené otázky patří, jak budou regulační orgány vynucovat nové povinnosti, jak zabránit zneužívání systémů pro zastavení šíření a jak se dostat k aplikacím nudify hostovaným v jiných zemích. Technická opatření, jako jsou štítky původu obsahu, ochranná opatření v generátorech obrázků a zásady obchodu s aplikacemi, mohou omezit snadný přístup, ale rozhodné zneužití otevřených modelů bude přetrvávat. Vzdělávání o souhlasu, rychlém hlášení a podpoře obětí zůstane ústředním bodem.

Uvedení do praxe

Proč na tom záleží

  • Riziko a bezpečnost. Katastrofické a každodenní škody AI závisí na tom, kdo rozumí rizikům a kdo může jednat.
  • Jasnější rozhodnutí. Veřejná a odborná gramotnost určuje, zda je silná bezpečnostní politika politicky možná.
  • Prorážením humbuku. Jasná vysvětlení snižují zachytávání humbukem, PR v laboratoři a vágní etické divadlo.

Pozor na

  • Zacházení s existenčním rizikem jako sci-fi, zatímco schopnosti kombinují.
  • Matoucí bezpečnost povrchových produktů se zarovnáním pod vysokou autonomií.
  • Neanglické a neodborné publikum ponechává pouze nekvalitní zdroje.

Další kroky

  1. Oddělte rizika poškození produktu, nesprávného použití a ztráty kontroly/nesouladu.
  2. Zeptejte se, jaké důkazy by změnily váš pohled na časové osy a závažnost.
  3. Upřednostňujte primární zdroje a konkrétní hodnocení před marketingovými tvrzeními.
  4. Identifikujte jednu akční cestu: kariéru, politiku, financování nebo dovednosti – nejen povědomí.

Pokračujte v objevování

Newsletter zdarma

Získejte denní přehled o AI

Tři ověřené příběhy ze světa AI každý všední den ráno, psané srozumitelnou angličtinou. Navždy zdarma, bez reklam.

Jeden e-mail každý všední den. Odhlásit se můžete jedním kliknutím. Vaši adresu nikdy neprodáváme ani nesdílíme.

Otestujte se

Projděte si kvíz Non-Consensual AI Imagery: Laws and Protections

Okamžitá zpětná vazba ke každé odpovědi a sdílitelný certifikát s ověřitelným ID po absolvování kurzu.

Spustit kvíz

Podpořte bezplatnou AI vzdělávání. AI Understanding je nezisková organizace 501(c)(3) — žádné reklamy, žádná platba za přístup, nikdy. Darujte

Často kladené otázky

Co je to non-consensual AI Imagery: zákony a ochrany?

Nekonsensuální snímky umělé inteligence znamenají sexuální nebo intimní snímky skutečné osoby vytvořené nebo pozměněné pomocí umělé inteligence bez jejího souhlasu, často nazývané hluboce falešné akty. Ve Spojených státech činí zákon TAKE IT DOWN z roku 2025 vědomé zveřejňování takových obrázků federálním zločinem a vyžaduje, aby je platformy odstranily do 48 hodin od platné žádosti. Znalost zákonů, tras a podpůrných služeb pomáhá obětem jednat rychle a pomáhá ostatním vyhnout se způsobení újmy.

Jak rychle musí podle zákona TAKE IT DOWN kryté platformy odstranit nahlášené obrázky po platné žádosti?

Zákon vyžaduje odstranění do 48 hodin od platné žádosti spolu s přiměřeným úsilím o odstranění identických kopií.

Vztahuje se zákon TAKE IT DOWN na obrázky generované umělou inteligencí?

Zákon se konkrétně vztahuje na AI generované nebo pozměněné intimní obrázky, které nazývá digitální padělky.

Která agentura vymáhá povinnosti platformy podle zákona TAKE IT DOWN Act?

FTC prosazuje požadavek, aby se kryté platformy zřídily a řídily se procesem oznámení a odstranění.

How does StopNCII.org protect a victim's privacy?

Zařízení opouští pouze vjemový hash. Partnerské platformy jej porovnávají s nahranými soubory, aniž by viděly původní obrázek.

Pokud rodič objeví nahé obrázky svého dítěte vygenerované umělou inteligencí, co mu průvodce radí?

Vlastní držení nebo distribuce sexuálních obrázků nezletilých může být samo o sobě nezákonné, takže hlášení přímo umožňuje úřadům zpracovat důkazy.