GUIDA della Società

Chatbot AI, leggi sui bambini e sulla sicurezza online

I chatbot basati sull'IA utilizzati dai minori ricadono sotto diverse tipologie di leggi sovrapposte.

Ascolta questa guidaNarrato dall'IA · ~3 min

In questa pagina4 minuti di lettura
  1. Panoramica
  2. Immersione profonda
  3. Implementazione nel mondo reale
  4. Il futuro dei chatbot basati sull'IA, i bambini e le leggi sulla sicurezza online
  5. Metterlo in pratica
  6. Continua a esplorare
  7. Domande frequenti

Panoramica

Esistono leggi sulla privacy dei minori come il COPPA negli Stati Uniti, regimi di sicurezza delle piattaforme come l'Online Safety Act nel Regno Unito e una nuova ondata di leggi sui chatbot companion come la SB 243 della California. Insieme, spingono i servizi verso controlli dell'età, la divulgazione che l'utente sta parlando con un'IA e protocolli per le conversazioni riguardanti l'autolesionismo. Queste regole sono importanti perché i chatbot di tipo companion possono formare relazioni intense con gli utenti giovani e le cause legali hanno collegato alcune di queste relazioni a danni gravi.

Immersione profonda

No single law covers AI chatbots and children; several regimes overlap. Privacy: The US Children's Online Privacy Protection Act (COPPA), enforced by the Federal Trade Commission, applies to online services directed at children under 13 and to operators with actual knowledge that they collect such children's data. They need verifiable parental consent before collecting personal information. The FTC finalized COPPA Rule amendments in 2025, tightening limits on third-party sharing and data retention. In September 2025 it also opened a 6(b) inquiry into how several major companies' companion chatbots affect children and teens. Platform safety: The UK Online Safety Act 2023 imposes duties on user-to-user and search services, and Ofcom has stated that generative AI chatbots can fall within scope. Since July 2025, services likely to be accessed by children must protect them from the most harmful content, including material encouraging suicide or self-harm, often through "highly effective" age assurance. Companion chatbot laws: California's SB 243, signed in October 2025 and effective January 2026, targets companion chatbots. Operators must disclose that the chatbot is AI where users could be misled, and maintain protocols to prevent content encouraging suicide or self-harm and to refer users to crisis services. For users known to be minors, the chatbot must periodically remind them to take a break and that it is not human, and the operator must take reasonable measures to prevent sexually explicit content. It also requires annual reporting and allows private lawsuits. New York enacted its own AI companion safeguards in 2025. Litigation: In Garcia v. Character Technologies, filed in 2024, a Florida mother alleged a Character.AI chatbot contributed to her son's death; in 2025 the court allowed most claims to proceed. Raine v. OpenAI, filed in 2025, makes similar allegations about ChatGPT. A common misconception is that a "13+" checkbox settles the matter. Many of these rules turn on actual knowledge, the likely audience, or reasonable measures.

Implementazione nel mondo reale

Un chatbot di supporto ai compiti rivolto ai minori di 13 anni negli Stati Uniti deve ottenere un consenso verificabile da parte dei genitori prima di raccogliere le informazioni personali di un bambino, come richiesto dal COPPA.

Un'app di chatbot companion utilizzata in California deve informare gli utenti che non si tratta di un essere umano qualora una persona ragionevole potrebbe essere tratta in inganno. Deve inoltre mantenere un protocollo che indirizzi gli utenti che esprimono pensieri suicidi verso servizi di assistenza in caso di crisi.

Un servizio che consente agli utenti del Regno Unito di condividere tra loro contenuti generati dall'IA è probabilmente coperto dall'Online Safety Act. Potrebbe richiedere sistemi di verifica dell'età altamente efficaci per tenere i bambini lontani dai contenuti più dannosi.

La famiglia di un adolescente morto suicida fa causa a un produttore di chatbot. La causa sostiene che il design del prodotto, non solo ciò che diceva, fosse difettoso e avesse causato un danno prevedibile.

Il futuro dei chatbot basati sull'IA, i bambini e le leggi sulla sicurezza online

Altri stati degli Stati Uniti stanno valutando leggi sui chatbot companion ed è in corso un dibattito sull'opportunità che le norme federali le sostituiscano. I tribunali stanno ancora decidendo se l'output di un chatbot sia da considerarsi un discorso protetto o un prodotto che può essere difettoso. Le prime sentenze hanno permesso ad alcuni reclami di procedere, ma le questioni sono tutt'altro che risolte. Le aziende hanno aggiunto controlli parentali e modalità per adolescenti, e alcune hanno limitato le chat a risposta aperta per i minori. Aspettatevi che le autorità di regolamentazione richiedano prove del fatto che la verifica dell'età e i protocolli per l'autolesionismo funzionino davvero, non solo che esista una politica in merito.

Metterlo in pratica

Perché è importante

  • Rischio e sicurezza. I danni catastrofici e quotidiani dell’IA dipendono entrambi da chi comprende i rischi e da chi può agire.
  • Decisioni più chiare. L’alfabetizzazione pubblica e professionale determina la possibilità politica di una forte politica di sicurezza.
  • Tagliare il clamore. Spiegazioni chiare riducono la cattura da parte di montature pubblicitarie, PR di laboratorio e vaghi teatrini etici.

Attenzione

  • Trattare il rischio esistenziale come fantascienza mentre le capacità si aggravano.
  • Confondere la sicurezza del prodotto superficiale con l'allineamento in condizioni di elevata autonomia.
  • Lasciando il pubblico non inglese e non esperto solo con fonti di bassa qualità.

Prossimi passi

  1. Separare i rischi di danni al prodotto, uso improprio e perdita di controllo/disallineamento.
  2. Chiedi quali prove cambierebbero la tua opinione sulle tempistiche e sulla gravità.
  3. Preferire fonti primarie e valutazioni concrete alle affermazioni di marketing.
  4. Identifica un percorso d’azione: carriera, politica, finanziamenti o competenze, non solo consapevolezza.

Continua a esplorare

Newsletter gratuita

Ricevi il briefing quotidiano sull'IA

Tre storie verificate sull'IA ogni mattina nei giorni feriali, scritte in un inglese semplice. Gratuito per sempre, senza pubblicità.

Un'email ogni giorno feriale. Disiscriviti con un clic. Non vendiamo né condividiamo mai il tuo indirizzo.

Mettiti alla prova

Partecipa al quiz su Chatbot basati sull'IA, bambini e leggi sulla sicurezza online

Feedback immediato su ogni risposta e un certificato condivisibile con un ID verificabile una volta superato un corso.

Inizia il quiz

Sostieni l'istruzione gratuita sull'IA. AI Understanding è un'organizzazione non profit 501(c)(3) — nessun annuncio, nessun paywall, mai. Fai una donazione

Domande frequenti

Cosa sono i chatbot basati sull'IA, i bambini e le leggi sulla sicurezza online?

I chatbot basati sull'IA utilizzati dai minori ricadono sotto diverse tipologie di leggi sovrapposte. Esistono leggi sulla privacy dei minori come il COPPA negli Stati Uniti, regimi di sicurezza delle piattaforme come l'Online Safety Act nel Regno Unito e una nuova ondata di leggi sui chatbot companion come la SB 243 della California. Insieme, spingono i servizi verso controlli dell'età, la divulgazione che l'utente sta parlando con un'IA e protocolli per le conversazioni riguardanti l'autolesionismo. Queste regole sono importanti perché i chatbot di tipo companion possono formare relazioni intense con gli utenti giovani e le cause legali hanno collegato alcune di queste relazioni a danni gravi.

Ai sensi del COPPA, cosa deve ottenere un servizio coperto prima di raccogliere informazioni personali da un bambino di età inferiore a 13 anni?

La COPPA richiede il consenso verificabile dei genitori prima che un servizio raccolga informazioni personali da bambini sotto i 13 anni e la FTC lo applica.

Quale autorità di regolamentazione del Regno Unito applica l'Online Safety Act e ha affermato che i chatbot con intelligenza artificiale generativa possono rientrare nel suo ambito?

Ofcom applica l'Online Safety Act e ha dichiarato che i chatbot con intelligenza artificiale generativa possono rientrare nell'ambito di applicazione.

Quale requisito fa parte dell'SB 243 della California per i chatbot associati?

L'SB 243 richiede protocolli di autolesionismo con segnalazioni di crisi, divulgazione dell'intelligenza artificiale e protezioni aggiuntive per i minori conosciuti. Non vieta i chatbot per i minori.

Cosa richiede l'SB 243 per gli utenti che l'operatore sa essere minorenni?

Per i minori conosciuti, la legge aggiunge promemoria e misure contro i contenuti sessualmente espliciti.

Perché spesso la casella di controllo "13+" non è sufficiente per garantire la conformità?

Gli obblighi legali spesso dipendono da ciò che un servizio sa o dovrebbe aspettarsi da chi lo utilizza, quindi l’autodichiarazione da sola è debole.