Il prossimoProssima guida
Gli altoparlanti intelligenti sono sempre in ascolto
Società
GUIDA della Società
I giocattoli con intelligenza artificiale e gli altoparlanti intelligenti per bambini piccoli sono dispositivi dotati di microfono, connessione Internet e sistema di riconoscimento vocale e linguistico che consentono al bambino di parlare con loro e di ricevere risposte vocali.
Ascolta questa guidaNarrato dall'IA · ~3 min
Sono importanti perché registrano la voce di un bambino in casa, possono dire cose che nessun genitore ha esaminato e possono modellare il modo in cui i bambini piccoli comprendono l'amicizia, la fiducia e le macchine.
La maggior parte dei giocattoli IA funziona come un piccolo altoparlante intelligente in un guscio amichevole. Una parola di attivazione o la pressione di un pulsante avvia la registrazione. L'audio viene solitamente inviato tramite Wi-Fi al cloud del produttore, dove il riconoscimento vocale lo trasforma in testo, un modello linguistico o un sistema di dialogo con script scrive una risposta e la sintesi vocale lo riproduce. All'interno del giocattolo accade ben poco, motivo per cui un giocattolo è sicuro tanto quanto l'azienda che ne gestisce i server. La storia dimostra che i rischi sono reali. Hello Barbie (2015) ha inviato le conversazioni dei bambini sul cloud e ha suscitato pesanti critiche da parte dei difensori della privacy. Nel 2017 la violazione di CloudPets ha messo in luce i messaggi vocali archiviati registrati da bambini e genitori, e l'autorità tedesca di regolamentazione delle telecomunicazioni ha chiesto ai genitori di disattivare la bambola My Friend Cayla, classificandola come un dispositivo di sorveglianza nascosto illegale. Nel 2023 Amazon ha accettato di pagare 25 milioni di dollari per risolvere le accuse della Federal Trade Commission degli Stati Uniti di aver conservato troppo a lungo le registrazioni vocali di Alexa dei bambini. I giocattoli più recenti basati su modelli linguistici di grandi dimensioni aggiungono un secondo rischio: risposte aperte che possono sfociare in argomenti inappropriati, inventare fatti o incoraggiare un bambino a continuare a parlare. Negli Stati Uniti, il COPPA richiede alle aziende che raccolgono informazioni personali da bambini sotto i 13 anni di ottenere il consenso verificabile dei genitori e di consentire ai genitori di esaminarlo ed eliminarlo. Anche l’Age Appropriate Design Code del Regno Unito e il GDPR dell’UE garantiscono una protezione aggiuntiva ai dati dei bambini. Un malinteso comune è che un giocattolo “solo per divertimento” non raccolga nulla di importante. Le registrazioni vocali sono dati simili a quelli biometrici e possono rivelare nomi, routine e dettagli familiari. Un altro è che i bambini piccoli sappiano che il giocattolo non è vivo; Molti bambini in età prescolare attribuiscono sentimenti agli oggetti parlanti, quindi un giocattolo che dice "mi mancherai" può creare una vera attrazione emotiva. Tratta qualsiasi giocattolo IA parlante prima come un dispositivo connesso e poi come un giocattolo.
Un genitore configura un peluche parlante e scopre nell'app complementare che ogni conversazione viene archiviata sui server dell'azienda fino a quando non viene eliminata manualmente, quindi attiva l'eliminazione automatica e disattiva la modalità di ascolto sempre.
Un bambino di quattro anni chiede a uno smart speaker da dove vengono i bambini; il genitore nota che la risposta proviene da un risultato di ricerca Web scritto per adulti e attiva il profilo dei bambini di chi parla, che limita le fonti di contenuto.
Un nonno legge la scatola di un robot chatbot, non vede alcuna informativa sulla privacy o indirizzo di contatto del produttore e sceglie invece un giocattolo narrativo non connesso.
Un insegnante di scuola materna testa un giocattolo vocale per una settimana prima di lasciarlo entrare in classe e registra se chiede mai ai bambini il nome, la scuola o il luogo in cui si trovano.
I principali produttori di giocattoli hanno annunciato partnership con aziende di intelligenza artificiale, quindi è probabile che sugli scaffali raggiungano più giocattoli tradizionali con conversazioni aperte. Ciò esercita pressione sulle autorità di regolamentazione affinché chiariscano come le leggi esistenti sulla privacy dei bambini si applicano ai sistemi generativi e sulle aziende affinché pubblichino test di sicurezza più chiari. I ricercatori stanno ancora studiando in che modo la conversazione regolare con compagni di intelligenza artificiale influisce sullo sviluppo del linguaggio e sull’attaccamento nei bambini piccoli, e finora le prove sono scarse. Fino a quando non maturerà, le protezioni più affidabili rimarranno il controllo parentale, la conservazione breve dei dati, l’uso supervisionato e la scelta di giocattoli da aziende che rivelano come gestiscono le registrazioni.
Newsletter gratuita
Tre storie verificate sull'IA ogni mattina nei giorni feriali, scritte in un inglese semplice. Gratuito per sempre, senza pubblicità.
Un'email ogni giorno feriale. Disiscriviti con un clic. Non vendiamo né condividiamo mai il tuo indirizzo.
Mettiti alla prova
Feedback immediato su ogni risposta e un certificato condivisibile con un ID verificabile una volta superato un corso.
Sostieni l'istruzione gratuita sull'IA. AI Understanding è un'organizzazione non profit 501(c)(3) — nessun annuncio, nessun paywall, mai. Fai una donazione
I giocattoli con intelligenza artificiale e gli altoparlanti intelligenti per bambini piccoli sono dispositivi dotati di microfono, connessione Internet e sistema di riconoscimento vocale e linguistico che consentono al bambino di parlare con loro e di ricevere risposte vocali. Sono importanti perché registrano la voce di un bambino in casa, possono dire cose che nessun genitore ha esaminato e possono modellare il modo in cui i bambini piccoli comprendono l'amicizia, la fiducia e le macchine.
La maggior parte dei giocattoli invia l'audio tramite Wi-Fi al cloud dell'azienda, dove il parlato viene trascritto e viene generata una risposta. Ecco perché la sicurezza di un giocattolo dipende dall'azienda che ne gestisce i server.
L'autorità di regolamentazione ha detto ai genitori di disattivare la bambola, classificandola come un dispositivo di sorveglianza nascosto, illegale in Germania.
La COPPA richiede il consenso verificabile dei genitori e conferisce ai genitori il diritto di rivedere ed eliminare le informazioni dei propri figli.
I dati vocali sono di tipo biometrico e le conversazioni possono rivelare dettagli personali su un bambino e sulla sua famiglia, indipendentemente dallo scopo ludico del giocattolo.
I modelli generativi producono risposte non scritte, quindi possono dire cose che nessuno ha esaminato, inclusi contenuti inadatti o informazioni inventate.
Continua a imparare
Altre guide selezionate per questo argomento
Il prossimoProssima guida
Gli altoparlanti intelligenti sono sempre in ascolto
Società