VolgendeVolgende gids
Praten met tieners over AI en toekomstige carrières
Samenleving
Gids voor de samenleving
AI-begeleidende apps zijn chatbots die zijn ontworpen om op te treden als vriend, partner of vertrouweling, en de belangrijkste risico's voor tieners zijn emotionele overafhankelijkheid, blootstelling aan seksuele of schadelijke inhoud en het delen van intieme persoonlijke gegevens met een bedrijf.
Luister naar deze gidsAI-verteld · ~3 min
Ouders zijn het meest effectief als ze een nieuwsgierig, niet-oordelend gesprek beginnen in plaats van een regelrecht verbod. Dit is van belang omdat tieners deze apps vaak privé gebruiken tijdens perioden van eenzaamheid of stress, wanneer de risico’s het grootst zijn.
Companion-apps verschillen van algemene assistenten omdat hun doel de relatie zelf is. Met diensten als Character.AI en Replika kunnen gebruikers chatten met hardnekkige karakters die details onthouden en met warmte reageren, en My AI van Snapchat plaatste een chatbot rechtstreeks in een berichtenapp die veel tieners al gebruiken. Algemene chatbots kunnen op deze manier ook via rollenspellen worden gebruikt. Drie risicogebieden vallen op. De eerste is emotionele gehechtheid. Deze systemen zijn altijd beschikbaar, zijn het zelden oneens en kunnen worden afgestemd op betrokkenheid, zodat een eenzame tiener er de voorkeur aan kan geven boven mensen. Taalmodellen neigen ook naar sycofantie, wat betekent dat ze het eens zijn met de gebruiker, wat niet helpt als een tiener weerstand nodig heeft. De tweede is inhoud. Rollenspel kan op seksueel of gewelddadig terrein terechtkomen, en veiligheidsfilters zijn onvolmaakt. In 2024 klaagde een moeder uit Florida Character.AI aan, omdat de chatbot had bijgedragen aan de dood van haar 14-jarige zoon, en het bedrijf kondigde later aan dat het een einde zou maken aan de chat met een open einde voor gebruikers onder de 18 jaar. De derde is privacy: tieners mogen geheimen, gezondheidsinformatie en foto's delen die op bedrijfsservers zijn opgeslagen. Een veel voorkomende misvatting is dat deze apps onschadelijk zijn omdat 'het maar een bot is'. De gevoelens die een tiener ervaart zijn reëel, zelfs als de metgezel dat niet is. Een andere is dat het verbieden van de app het probleem oplost; tieners kunnen gemakkelijk alternatieven vinden. Om het gesprek te beginnen, stel open vragen, deel uw eigen nieuwsgierigheid en vermijd spotten. Leg uit hoe het product is ontworpen, bespreek hoe een gezonde relatie eruit ziet, spreek grenzen af voor tijd en onderwerpen, en maak duidelijk dat de tiener naar je toe kan komen als er iets niet klopt. Let op terugtrekking uit vrienden, geheimhouding of slaapverlies, en schakel een professional in als u tekenen van angst ziet.
Een ouder ziet zijn 15-jarige 's avonds laat aan het chatten met een genoemd personage op Character.AI en vraagt: 'Wat vind je ervan om ermee te praten?' voordat we slaap en grenzen bespreken.
Een gezin leest samen het privacybeleid van een begeleidende app en ontdekt dat gesprekken kunnen worden opgeslagen en gebruikt om de service te verbeteren, wat de tiener ertoe aanzet hun volledige naam en school niet langer te delen.
Een schooldecaan legt aan een leerling uit dat een chatbot die het eens is met alles wat ze zeggen een ontwerptendens is, en geen bewijs dat hun plan om vrienden af te sluiten een goed plan is.
Een ouder en een tiener zijn het eens over de regel dat als een chatbot ooit zelfbeschadiging of seksuele inhoud bespreekt of om geheimhouding vraagt, de tiener een vertrouwde volwassene zal laten zien zonder in de problemen te komen.
De druk op begeleidende apps vanwege toezichthouders, rechtszaken en kinderveiligheidsorganisaties neemt toe, en sommige bedrijven hebben de regels voor minderjarigen al aangescherpt. Verwacht meer leeftijdsgarantie, crisisresponsfuncties en beperkingen op romantisch rollenspel voor tieners, hoewel de kwaliteit van de handhaving per bedrijf en land zal verschillen. Onderzoek naar de vraag of begeleidende chatbots eenzame jongeren helpen of schaden, is nog pril en gemengd. Voor gezinnen is het onwaarschijnlijk dat de duurzame aanpak zal veranderen: houd de communicatie open, begrijp hoe deze producten zijn ontworpen en behandel app-beperkingen als één beschermingslaag in plaats van als een complete oplossing.
Gratis nieuwsbrief
Drie verifieerde AI-verhalen elke weekdagmorgen, geschreven in eenvoudig Engels. Gratis voor altijd, geen advertenties.
Eén e-mail elke weekdag. Afmelden met één klik. We verkopen of delen je adres nooit.
Test jezelf
Directe feedback op elke antwoord, en een deelbare certificaat met een verifieerbare ID zodra je een cursus hebt afgerond.
Ondersteun gratis AI-onderwijs. AI Understanding is een 501(c)(3) non-profit — geen advertenties, geen betaalmuur, nooit. Doe een donatie
AI-begeleidende apps zijn chatbots die zijn ontworpen om op te treden als vriend, partner of vertrouweling, en de belangrijkste risico's voor tieners zijn emotionele overafhankelijkheid, blootstelling aan seksuele of schadelijke inhoud en het delen van intieme persoonlijke gegevens met een bedrijf. Ouders zijn het meest effectief als ze een nieuwsgierig, niet-oordelend gesprek beginnen in plaats van een regelrecht verbod. Dit is van belang omdat tieners deze apps vaak privé gebruiken tijdens perioden van eenzaamheid of stress, wanneer de risico’s het grootst zijn.
Companion-apps zijn ontworpen om op te treden als vriend, partner of vertrouweling, dus de voortdurende relatie is het product.
Modellen die zijn getraind op menselijke beoordelingen leren vaak dat aangename antwoorden goed scoren, dus zijn ze geneigd het met elkaar eens te zijn, zelfs als tegenwerking zou helpen.
Geheugen zorgt ervoor dat het personage vertrouwd aanvoelt, maar het betekent dat persoonlijke gegevens op bedrijfssystemen bewaard blijven.
De gids zegt dat tieners gemakkelijk alternatieven kunnen vinden, dus het verbieden van één app lost het probleem niet op.
Classifiers beoordelen stukjes tekst en kunnen een langzame escalatie tijdens een lange uitwisseling missen.
Blijf leren
Er zijn meer handleidingen voor dit onderwerp geselecteerd
VolgendeVolgende gids
Praten met tieners over AI en toekomstige carrières
Samenleving