PRŮVODCE společností

AI chatboti, děti a zákony o online bezpečnosti

Na AI chatboty používané nezletilými se vztahuje několik překrývajících se druhů zákonů.

Poslechněte si tento návodAI-vyprávěný · ~3 min

Na této stránce4 min čtení
  1. Přehled
  2. Hluboký ponor
  3. Real-World Implementace
  4. Budoucnost AI chatbotů, děti a zákony o online bezpečnosti
  5. Uvedení do praxe
  6. Pokračujte v objevování
  7. Často kladené otázky

Přehled

Existují zákony na ochranu soukromí dětí, jako je americký COPPA, bezpečnostní režimy platforem, jako je britský zákon o online bezpečnosti, a nová vlna zákonů o doprovodných chatbotech, jako je kalifornský SB 243. Společně posouvají služby směrem ke kontrole věku, zveřejnění, že uživatel mluví s AI, a protokolům pro konverzace o sebepoškozování. Na těchto pravidlech záleží, protože chatboti ve stylu společníků mohou vytvářet intenzivní vztahy s mladými uživateli a soudní spory spojují některé z těchto vztahů s vážným poškozením.

Hluboký ponor

Žádný zákon se nevztahuje na chatboty a děti s umělou inteligencí; několik režimů se překrývá. Ochrana osobních údajů: Zákon USA o ochraně soukromí dětí na internetu (COPPA), vynucovaný Federální obchodní komisí, se vztahuje na online služby zaměřené na děti mladší 13 let a na provozovatele, kteří skutečně vědí, že shromažďují údaje o těchto dětech. Před shromažďováním osobních údajů potřebují ověřitelný souhlas rodičů. FTC dokončila změny pravidel COPPA v roce 2025, zpřísňující limity pro sdílení a uchovávání údajů třetími stranami. V září 2025 také zahájila šetření 6(b) ohledně toho, jak doprovodní chatboti několika velkých společností ovlivňují děti a dospívající. Bezpečnost platformy: Britský zákon o online bezpečnosti z roku 2023 ukládá povinnosti mezi uživatelem a vyhledávacími službami a Ofcom uvedl, že do jeho působnosti mohou spadat generativní chatboti AI. Od července 2025 je musí služby, ke kterým mají děti pravděpodobně přístup, chránit je před nejškodlivějším obsahem, včetně materiálů nabádajících k sebevraždě nebo sebepoškozování, často prostřednictvím „vysoce účinného“ zajištění věku. Zákony o doprovodných chatbotech: Kalifornský SB 243, podepsaný v říjnu 2025 a účinný od ledna 2026, se zaměřuje na doprovodné chatboty. Operátoři musí prozradit, že chatbot je umělá inteligence, kde by uživatelé mohli být uvedeni v omyl, a musí udržovat protokoly, které zabrání obsahu nabádajícímu k sebevraždě nebo sebepoškozování a odkazují uživatele na krizové služby. Uživatelům, o kterých je známo, že jsou nezletilí, musí chatbot pravidelně připomínat, aby si dali pauzu a že to není člověk, a provozovatel musí přijmout přiměřená opatření, aby zabránil sexuálně explicitnímu obsahu. Vyžaduje také každoroční podávání zpráv a umožňuje soukromé žaloby. New York v roce 2025 uzákonil své vlastní AI doprovodné záruky. Soudní spor: Ve věci Garcia v. Character Technologies, podané v roce 2024, floridská matka tvrdila, že chatbot Character.AI přispěl k smrti jejího syna; v roce 2025 soud většinu žalob povolil. Raine v. OpenAI, podaná v roce 2025, uvádí podobná obvinění ohledně ChatGPT. Obvyklá mylná představa je, že zaškrtávací políčko „13+“ záležitost vyřeší. Mnoho z těchto pravidel vychází ze skutečných znalostí, pravděpodobného publika nebo přiměřených opatření.

Real-World Implementace

Chatbot s domácími úkoly zaměřený na děti mladší 13 let v USA musí získat ověřitelný souhlas rodičů, než bude shromažďovat osobní údaje dítěte, jak vyžaduje zákon COPPA.

Doprovodná aplikace chatbota používaná v Kalifornii musí uživatelům sdělit, že to není člověk, když by mohl být rozumný člověk uveden v omyl. Musí také udržovat protokol, který uživatele, kteří vyjadřují sebevražedné myšlenky, odkazuje na krizové služby.

Na službu, která umožňuje uživatelům ve Spojeném království sdílet obsah vytvořený umělou inteligencí, se pravděpodobně vztahuje zákon o online bezpečnosti. Může vyžadovat vysoce účinné zajištění věku, aby se děti nedostaly k nejškodlivějšímu obsahu.

Rodina teenagera, který zemřel sebevraždou, žaluje výrobce chatbotů. Žaloba tvrdí, že design výrobku, nejen to, co říkal, byl vadný a způsobil předvídatelnou škodu.

Budoucnost AI chatbotů, děti a zákony o online bezpečnosti

Více amerických států zvažuje zákony o doprovodných chatbotech a diskutuje se o tom, zda by jim federální pravidla měla bránit. Soudy stále rozhodují, zda se výstup chatbota počítá jako chráněná řeč nebo jako produkt, který může být vadný. První rozsudky umožnily některým nárokům pokračovat, ale otázky nejsou zdaleka vyřešeny. Společnosti přidaly rodičovskou kontrolu a režimy pro mladistvé a některé omezily otevřený chat pro nezletilé. Očekávejte, že regulační orgány požádají o důkaz, že zajištění věku a protokoly sebepoškozování skutečně fungují, nejen že existuje nějaká politika.

Uvedení do praxe

Proč na tom záleží

  • Riziko a bezpečnost. Katastrofické a každodenní škody AI závisí na tom, kdo rozumí rizikům a kdo může jednat.
  • Jasnější rozhodnutí. Veřejná a odborná gramotnost určuje, zda je silná bezpečnostní politika politicky možná.
  • Prorážením humbuku. Jasná vysvětlení snižují zachytávání humbukem, PR v laboratoři a vágní etické divadlo.

Pozor na

  • Zacházení s existenčním rizikem jako sci-fi, zatímco schopnosti kombinují.
  • Matoucí bezpečnost povrchových produktů se zarovnáním pod vysokou autonomií.
  • Neanglické a neodborné publikum ponechává pouze nekvalitní zdroje.

Další kroky

  1. Oddělte rizika poškození produktu, nesprávného použití a ztráty kontroly/nesouladu.
  2. Zeptejte se, jaké důkazy by změnily váš pohled na časové osy a závažnost.
  3. Upřednostňujte primární zdroje a konkrétní hodnocení před marketingovými tvrzeními.
  4. Identifikujte jednu akční cestu: kariéru, politiku, financování nebo dovednosti – nejen povědomí.

Pokračujte v objevování

Newsletter zdarma

Získejte denní přehled o AI

Tři ověřené příběhy ze světa AI každý všední den ráno, psané srozumitelnou angličtinou. Navždy zdarma, bez reklam.

Jeden e-mail každý všední den. Odhlásit se můžete jedním kliknutím. Vaši adresu nikdy neprodáváme ani nesdílíme.

Otestujte se

Take the AI Chatbots, Children and Online Safety Laws quiz

Okamžitá zpětná vazba ke každé odpovědi a sdílitelný certifikát s ověřitelným ID po absolvování kurzu.

Spustit kvíz

Podpořte bezplatnou AI vzdělávání. AI Understanding je nezisková organizace 501(c)(3) — žádné reklamy, žádná platba za přístup, nikdy. Darujte

Často kladené otázky

Co jsou to AI chatboti, děti a zákony o online bezpečnosti?

Na AI chatboty používané nezletilými se vztahuje několik překrývajících se druhů zákonů. Existují zákony na ochranu soukromí dětí, jako je americký COPPA, bezpečnostní režimy platforem, jako je britský zákon o online bezpečnosti, a nová vlna zákonů o doprovodných chatbotech, jako je kalifornský SB 243. Společně posouvají služby směrem ke kontrole věku, zveřejnění, že uživatel mluví s AI, a protokolům pro konverzace o sebepoškozování. Na těchto pravidlech záleží, protože chatboti ve stylu společníků mohou vytvářet intenzivní vztahy s mladými uživateli a soudní spory spojují některé z těchto vztahů s vážným poškozením.

Co musí zahrnutá služba podle zákona COPPA získat před shromažďováním osobních údajů od dítěte mladšího 13 let?

COPPA vyžaduje ověřitelný souhlas rodičů předtím, než služba shromažďuje osobní údaje od dětí mladších 13 let, a FTC jej vynucuje.

Který regulátor Spojeného království prosazuje zákon o online bezpečnosti a uvedl, že do jeho působnosti mohou spadat generativní chatboti AI?

Ofcom prosazuje zákon o online bezpečnosti a uvedl, že v rozsahu mohou být generativní chatboti AI.

Který požadavek je součástí kalifornského SB 243 pro doprovodné chatboty?

SB 243 vyžaduje protokoly sebepoškozování s krizovými doporučeními, odhalením AI a zvláštní ochranou pro známé nezletilé. Nezakazuje chatboty pro nezletilé.

Co vyžaduje SB 243 pro uživatele, o kterých operátor ví, že jsou nezletilí?

Pro známé nezletilé zákon přidává upomínky a opatření proti sexuálně explicitnímu obsahu.

Proč zaškrtávací políčko „13+“ často ke splnění požadavků nestačí?

Právní povinnosti často závisí na tom, co služba ví nebo by měla očekávat o tom, kdo ji používá, takže samotné vlastní prohlášení je slabé.