DalšíDalší průvodce
Britský zákon o online bezpečnosti a AI Chatbots
Společnost
PRŮVODCE společností
Na AI chatboty používané nezletilými se vztahuje několik překrývajících se druhů zákonů.
Poslechněte si tento návodAI-vyprávěný · ~3 min
Existují zákony na ochranu soukromí dětí, jako je americký COPPA, bezpečnostní režimy platforem, jako je britský zákon o online bezpečnosti, a nová vlna zákonů o doprovodných chatbotech, jako je kalifornský SB 243. Společně posouvají služby směrem ke kontrole věku, zveřejnění, že uživatel mluví s AI, a protokolům pro konverzace o sebepoškozování. Na těchto pravidlech záleží, protože chatboti ve stylu společníků mohou vytvářet intenzivní vztahy s mladými uživateli a soudní spory spojují některé z těchto vztahů s vážným poškozením.
Žádný zákon se nevztahuje na chatboty a děti s umělou inteligencí; několik režimů se překrývá. Ochrana osobních údajů: Zákon USA o ochraně soukromí dětí na internetu (COPPA), vynucovaný Federální obchodní komisí, se vztahuje na online služby zaměřené na děti mladší 13 let a na provozovatele, kteří skutečně vědí, že shromažďují údaje o těchto dětech. Před shromažďováním osobních údajů potřebují ověřitelný souhlas rodičů. FTC dokončila změny pravidel COPPA v roce 2025, zpřísňující limity pro sdílení a uchovávání údajů třetími stranami. V září 2025 také zahájila šetření 6(b) ohledně toho, jak doprovodní chatboti několika velkých společností ovlivňují děti a dospívající. Bezpečnost platformy: Britský zákon o online bezpečnosti z roku 2023 ukládá povinnosti mezi uživatelem a vyhledávacími službami a Ofcom uvedl, že do jeho působnosti mohou spadat generativní chatboti AI. Od července 2025 je musí služby, ke kterým mají děti pravděpodobně přístup, chránit je před nejškodlivějším obsahem, včetně materiálů nabádajících k sebevraždě nebo sebepoškozování, často prostřednictvím „vysoce účinného“ zajištění věku. Zákony o doprovodných chatbotech: Kalifornský SB 243, podepsaný v říjnu 2025 a účinný od ledna 2026, se zaměřuje na doprovodné chatboty. Operátoři musí prozradit, že chatbot je umělá inteligence, kde by uživatelé mohli být uvedeni v omyl, a musí udržovat protokoly, které zabrání obsahu nabádajícímu k sebevraždě nebo sebepoškozování a odkazují uživatele na krizové služby. Uživatelům, o kterých je známo, že jsou nezletilí, musí chatbot pravidelně připomínat, aby si dali pauzu a že to není člověk, a provozovatel musí přijmout přiměřená opatření, aby zabránil sexuálně explicitnímu obsahu. Vyžaduje také každoroční podávání zpráv a umožňuje soukromé žaloby. New York v roce 2025 uzákonil své vlastní AI doprovodné záruky. Soudní spor: Ve věci Garcia v. Character Technologies, podané v roce 2024, floridská matka tvrdila, že chatbot Character.AI přispěl k smrti jejího syna; v roce 2025 soud většinu žalob povolil. Raine v. OpenAI, podaná v roce 2025, uvádí podobná obvinění ohledně ChatGPT. Obvyklá mylná představa je, že zaškrtávací políčko „13+“ záležitost vyřeší. Mnoho z těchto pravidel vychází ze skutečných znalostí, pravděpodobného publika nebo přiměřených opatření.
Chatbot s domácími úkoly zaměřený na děti mladší 13 let v USA musí získat ověřitelný souhlas rodičů, než bude shromažďovat osobní údaje dítěte, jak vyžaduje zákon COPPA.
Doprovodná aplikace chatbota používaná v Kalifornii musí uživatelům sdělit, že to není člověk, když by mohl být rozumný člověk uveden v omyl. Musí také udržovat protokol, který uživatele, kteří vyjadřují sebevražedné myšlenky, odkazuje na krizové služby.
Na službu, která umožňuje uživatelům ve Spojeném království sdílet obsah vytvořený umělou inteligencí, se pravděpodobně vztahuje zákon o online bezpečnosti. Může vyžadovat vysoce účinné zajištění věku, aby se děti nedostaly k nejškodlivějšímu obsahu.
Rodina teenagera, který zemřel sebevraždou, žaluje výrobce chatbotů. Žaloba tvrdí, že design výrobku, nejen to, co říkal, byl vadný a způsobil předvídatelnou škodu.
Více amerických států zvažuje zákony o doprovodných chatbotech a diskutuje se o tom, zda by jim federální pravidla měla bránit. Soudy stále rozhodují, zda se výstup chatbota počítá jako chráněná řeč nebo jako produkt, který může být vadný. První rozsudky umožnily některým nárokům pokračovat, ale otázky nejsou zdaleka vyřešeny. Společnosti přidaly rodičovskou kontrolu a režimy pro mladistvé a některé omezily otevřený chat pro nezletilé. Očekávejte, že regulační orgány požádají o důkaz, že zajištění věku a protokoly sebepoškozování skutečně fungují, nejen že existuje nějaká politika.
Newsletter zdarma
Tři ověřené příběhy ze světa AI každý všední den ráno, psané srozumitelnou angličtinou. Navždy zdarma, bez reklam.
Jeden e-mail každý všední den. Odhlásit se můžete jedním kliknutím. Vaši adresu nikdy neprodáváme ani nesdílíme.
Otestujte se
Okamžitá zpětná vazba ke každé odpovědi a sdílitelný certifikát s ověřitelným ID po absolvování kurzu.
Podpořte bezplatnou AI vzdělávání. AI Understanding je nezisková organizace 501(c)(3) — žádné reklamy, žádná platba za přístup, nikdy. Darujte
Na AI chatboty používané nezletilými se vztahuje několik překrývajících se druhů zákonů. Existují zákony na ochranu soukromí dětí, jako je americký COPPA, bezpečnostní režimy platforem, jako je britský zákon o online bezpečnosti, a nová vlna zákonů o doprovodných chatbotech, jako je kalifornský SB 243. Společně posouvají služby směrem ke kontrole věku, zveřejnění, že uživatel mluví s AI, a protokolům pro konverzace o sebepoškozování. Na těchto pravidlech záleží, protože chatboti ve stylu společníků mohou vytvářet intenzivní vztahy s mladými uživateli a soudní spory spojují některé z těchto vztahů s vážným poškozením.
COPPA vyžaduje ověřitelný souhlas rodičů předtím, než služba shromažďuje osobní údaje od dětí mladších 13 let, a FTC jej vynucuje.
Ofcom prosazuje zákon o online bezpečnosti a uvedl, že v rozsahu mohou být generativní chatboti AI.
SB 243 vyžaduje protokoly sebepoškozování s krizovými doporučeními, odhalením AI a zvláštní ochranou pro známé nezletilé. Nezakazuje chatboty pro nezletilé.
Pro známé nezletilé zákon přidává upomínky a opatření proti sexuálně explicitnímu obsahu.
Právní povinnosti často závisí na tom, co služba ví nebo by měla očekávat o tom, kdo ji používá, takže samotné vlastní prohlášení je slabé.
Učte se dál
Pro toto téma bylo vybráno více průvodců
DalšíDalší průvodce
Britský zákon o online bezpečnosti a AI Chatbots
Společnost