Il prossimoProssima guida
Online Safety Act del Regno Unito e chatbot basati sull'IA
Società
GUIDA della Società
I chatbot basati sull'IA utilizzati dai minori ricadono sotto diverse tipologie di leggi sovrapposte.
Ascolta questa guidaNarrato dall'IA · ~3 min
Esistono leggi sulla privacy dei minori come il COPPA negli Stati Uniti, regimi di sicurezza delle piattaforme come l'Online Safety Act nel Regno Unito e una nuova ondata di leggi sui chatbot companion come la SB 243 della California. Insieme, spingono i servizi verso controlli dell'età, la divulgazione che l'utente sta parlando con un'IA e protocolli per le conversazioni riguardanti l'autolesionismo. Queste regole sono importanti perché i chatbot di tipo companion possono formare relazioni intense con gli utenti giovani e le cause legali hanno collegato alcune di queste relazioni a danni gravi.
No single law covers AI chatbots and children; several regimes overlap. Privacy: The US Children's Online Privacy Protection Act (COPPA), enforced by the Federal Trade Commission, applies to online services directed at children under 13 and to operators with actual knowledge that they collect such children's data. They need verifiable parental consent before collecting personal information. The FTC finalized COPPA Rule amendments in 2025, tightening limits on third-party sharing and data retention. In September 2025 it also opened a 6(b) inquiry into how several major companies' companion chatbots affect children and teens. Platform safety: The UK Online Safety Act 2023 imposes duties on user-to-user and search services, and Ofcom has stated that generative AI chatbots can fall within scope. Since July 2025, services likely to be accessed by children must protect them from the most harmful content, including material encouraging suicide or self-harm, often through "highly effective" age assurance. Companion chatbot laws: California's SB 243, signed in October 2025 and effective January 2026, targets companion chatbots. Operators must disclose that the chatbot is AI where users could be misled, and maintain protocols to prevent content encouraging suicide or self-harm and to refer users to crisis services. For users known to be minors, the chatbot must periodically remind them to take a break and that it is not human, and the operator must take reasonable measures to prevent sexually explicit content. It also requires annual reporting and allows private lawsuits. New York enacted its own AI companion safeguards in 2025. Litigation: In Garcia v. Character Technologies, filed in 2024, a Florida mother alleged a Character.AI chatbot contributed to her son's death; in 2025 the court allowed most claims to proceed. Raine v. OpenAI, filed in 2025, makes similar allegations about ChatGPT. A common misconception is that a "13+" checkbox settles the matter. Many of these rules turn on actual knowledge, the likely audience, or reasonable measures.
Un chatbot di supporto ai compiti rivolto ai minori di 13 anni negli Stati Uniti deve ottenere un consenso verificabile da parte dei genitori prima di raccogliere le informazioni personali di un bambino, come richiesto dal COPPA.
Un'app di chatbot companion utilizzata in California deve informare gli utenti che non si tratta di un essere umano qualora una persona ragionevole potrebbe essere tratta in inganno. Deve inoltre mantenere un protocollo che indirizzi gli utenti che esprimono pensieri suicidi verso servizi di assistenza in caso di crisi.
Un servizio che consente agli utenti del Regno Unito di condividere tra loro contenuti generati dall'IA è probabilmente coperto dall'Online Safety Act. Potrebbe richiedere sistemi di verifica dell'età altamente efficaci per tenere i bambini lontani dai contenuti più dannosi.
La famiglia di un adolescente morto suicida fa causa a un produttore di chatbot. La causa sostiene che il design del prodotto, non solo ciò che diceva, fosse difettoso e avesse causato un danno prevedibile.
Altri stati degli Stati Uniti stanno valutando leggi sui chatbot companion ed è in corso un dibattito sull'opportunità che le norme federali le sostituiscano. I tribunali stanno ancora decidendo se l'output di un chatbot sia da considerarsi un discorso protetto o un prodotto che può essere difettoso. Le prime sentenze hanno permesso ad alcuni reclami di procedere, ma le questioni sono tutt'altro che risolte. Le aziende hanno aggiunto controlli parentali e modalità per adolescenti, e alcune hanno limitato le chat a risposta aperta per i minori. Aspettatevi che le autorità di regolamentazione richiedano prove del fatto che la verifica dell'età e i protocolli per l'autolesionismo funzionino davvero, non solo che esista una politica in merito.
Newsletter gratuita
Tre storie verificate sull'IA ogni mattina nei giorni feriali, scritte in un inglese semplice. Gratuito per sempre, senza pubblicità.
Un'email ogni giorno feriale. Disiscriviti con un clic. Non vendiamo né condividiamo mai il tuo indirizzo.
Mettiti alla prova
Feedback immediato su ogni risposta e un certificato condivisibile con un ID verificabile una volta superato un corso.
Sostieni l'istruzione gratuita sull'IA. AI Understanding è un'organizzazione non profit 501(c)(3) — nessun annuncio, nessun paywall, mai. Fai una donazione
I chatbot basati sull'IA utilizzati dai minori ricadono sotto diverse tipologie di leggi sovrapposte. Esistono leggi sulla privacy dei minori come il COPPA negli Stati Uniti, regimi di sicurezza delle piattaforme come l'Online Safety Act nel Regno Unito e una nuova ondata di leggi sui chatbot companion come la SB 243 della California. Insieme, spingono i servizi verso controlli dell'età, la divulgazione che l'utente sta parlando con un'IA e protocolli per le conversazioni riguardanti l'autolesionismo. Queste regole sono importanti perché i chatbot di tipo companion possono formare relazioni intense con gli utenti giovani e le cause legali hanno collegato alcune di queste relazioni a danni gravi.
La COPPA richiede il consenso verificabile dei genitori prima che un servizio raccolga informazioni personali da bambini sotto i 13 anni e la FTC lo applica.
Ofcom applica l'Online Safety Act e ha dichiarato che i chatbot con intelligenza artificiale generativa possono rientrare nell'ambito di applicazione.
L'SB 243 richiede protocolli di autolesionismo con segnalazioni di crisi, divulgazione dell'intelligenza artificiale e protezioni aggiuntive per i minori conosciuti. Non vieta i chatbot per i minori.
Per i minori conosciuti, la legge aggiunge promemoria e misure contro i contenuti sessualmente espliciti.
Gli obblighi legali spesso dipendono da ciò che un servizio sa o dovrebbe aspettarsi da chi lo utilizza, quindi l’autodichiarazione da sola è debole.
Continua a imparare
Altre guide selezionate per questo argomento
Il prossimoProssima guida
Online Safety Act del Regno Unito e chatbot basati sull'IA
Società