ДаліНаступний посібник
Що дослідження говорять про ШІ та продуктивність на робочому місці
суспільство
Суспільство GUIDE
Розмова з підлітками про додатки AI Companion
Додатки-супутники зі штучним інтелектом – це чат-боти, створені для того, щоб виступати в ролі друга, партнера чи довіреної особи, і основними ризиками для підлітків є емоційна надмірна залежність, вплив сексуального чи шкідливого контенту та передача інтимних особистих даних компанії.
На цій сторінці4 хвилини читання
Огляд
Батьки найбільш ефективні, коли починають цікаву, неосудну розмову, а не відверту заборону. Це важливо, оскільки підлітки часто користуються цими програмами приватно в періоди самотності чи стресу, коли ризики найвищі.
Глибоке занурення
Програми-супутники відрізняються від звичайних помічників, оскільки їх метою є сам зв’язок. Сервіси, такі як Character.AI і Replika, дозволяють користувачам спілкуватися з постійними персонажами, які запам’ятовують деталі та реагують тепло, а My AI від Snapchat розмістив чат-бота безпосередньо в програмі обміну повідомленнями, якою вже користуються багато підлітків. Загальні чат-боти також можна використовувати таким чином через рольові ігри. Виділяють три зони ризику. По-перше, це емоційна прив'язаність. Ці системи завжди доступні, рідко суперечать і можуть бути налаштовані на взаємодію, тому самотній підліток може віддати перевагу їм, ніж людям. Мовні моделі також мають тенденцію до підлабузництва, тобто вони погоджуються з користувачем, що некорисно, коли підліток потребує відштовхування. Друге – зміст. Рольова гра може перейти на територію сексуального чи насильницького характеру, а фільтри безпеки недосконалі. У 2024 році мати із Флориди подала до суду на Character.AI, стверджуючи, що його чат-бот спричинив смерть її 14-річного сина, а пізніше компанія оголосила, що припинить відкритий чат для користувачів віком до 18 років. По-третє, конфіденційність: підлітки можуть ділитися секретами, інформацією про здоров’я та фотографіями, які зберігаються на серверах компанії. Поширеною помилкою є те, що ці програми нешкідливі, оскільки «це просто бот». Почуття, які відчуває підліток, є справжніми, навіть якщо товариш ним не є. Інший полягає в тому, що заборона програми припиняє проблему; підлітки можуть легко знайти альтернативи. Щоб розпочати розмову, ставте відкриті запитання, діліться власною цікавістю та уникайте насмішок. Поясніть, як розроблений продукт, обговоріть, як виглядають здорові стосунки, домовтеся про обмеження часу та тем і дайте зрозуміти, що підліток може прийти до вас, якщо щось буде не так. Слідкуйте за відстороненням від друзів, закритістю чи втратою сну, і залучіть професіонала, якщо ви бачите ознаки страждання.
Стратегічний вплив
Ризики та безпека
Катастрофічні та щоденні збитки ШІ залежать від того, хто розуміє ризики та хто може діяти.
Чіткіші рішення
Громадська та професійна грамотність визначає, чи політично можлива сильна політика безпеки.
Прорізаючи ажіотаж
Чіткі пояснення зменшують захоплення ажіотажем, лабораторним піаром і нечітким етичним театром.
Майбутнє спілкування з підлітками про супутні програми AI
Регулятори, судові позови та групи захисту дітей посилюють тиск на супутні додатки, а деякі компанії вже посилили правила для неповнолітніх. Очікуйте більше гарантії віку, функцій реагування на кризу та обмежень на романтичні рольові ігри для підлітків, хоча якість виконання залежить від компанії та країни. Дослідження того, чи допомагають чат-боти-компаньйони самотнім молодим людям чи шкодять їм, ще є ранніми та неоднозначними. Для сімей довготривалий підхід навряд чи зміниться: тримайте відкрите спілкування, розумійте, як розроблені ці продукти, і розглядайте обмеження додатків як один рівень захисту, а не як повне рішення.
Реалізація в реальному світі
Батьки помічають, що їхній 15-річний підліток спілкується пізно ввечері з персонажем на Character.AI і запитує: «Що тобі подобається в розмові з ним?» перед обговоренням сну та кордонів.
Сім’я разом читає політику конфіденційності додатка-супутника та виявляє, що розмови можуть зберігатися та використовуватися для покращення сервісу, що спонукає підлітка припинити повідомляти своє повне ім’я та школу.
Шкільний консультант пояснює учневі, що чат-бот, який погоджується з усім, що вони говорять, є тенденцією, а не доказом того, що їхній план відрізати друзів є хорошим.
Батьки та підліток узгоджують правило: якщо чат-бот коли-небудь обговорює завдання самоушкодження, сексуальний вміст або просить зберегти таємницю, підліток покаже дорослому, якому довіряє, і не матиме проблем.
Ризики та огорожі
Розгляд екзистенціального ризику як наукової фантастики, а здібності складені.
Плутання безпеки поверхні продукту з вирівнюванням за високої автономності.
Залишаючи неангломовну та неекспертну аудиторію лише низькоякісними джерелами.
Дорожня карта впровадження
Розділіть ризики шкоди продукту, неправильного використання та втрати контролю/зміщення.
Запитайте, які докази змінили б ваше уявлення про терміни та серйозність.
Віддавайте перевагу першоджерелам і конкретним оцінкам над маркетинговими заявами.
Визначте один шлях дій: кар’єра, політика, фінансування чи навички — не лише обізнаність.
Продовжуйте досліджувати
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Talking to Teens About AI Companion Apps quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Часті запитання
Що таке розмова з підлітками про супутні програми AI?
Додатки-супутники зі штучним інтелектом – це чат-боти, створені для того, щоб виступати в ролі друга, партнера чи довіреної особи, і основними ризиками для підлітків є емоційна надмірна залежність, вплив сексуального чи шкідливого контенту та передача інтимних особистих даних компанії. Батьки найбільш ефективні, коли починають цікаву, неосудну розмову, а не відверту заборону. Це важливо, оскільки підлітки часто користуються цими програмами приватно в періоди самотності чи стресу, коли ризики найвищі.
Чим програми-супутники відрізняються від звичайних помічників штучного інтелекту?
Програми-супутники створені для того, щоб діяти як друг, партнер або довірена особа, тому продуктом є постійні стосунки.
Що означає «підлабузництво» в контексті чат-ботів?
Моделі, навчені людським оцінкам, часто дізнаються, що приємні відповіді мають високі оцінки, тому вони, як правило, погоджуються, навіть якщо відмова може допомогти.
Чому рівень пам’яті в супутніх програмах викликає занепокоєння щодо конфіденційності?
Пам’ять робить персонажа знайомим, але це означає, що особисті дані зберігаються в системах компанії.
Чому, на думку путівника, пряма заборона часто є неефективною?
У посібнику сказано, що підлітки можуть легко знайти альтернативи, тому заборона однієї програми не вирішує проблему.
Чому класифікатори безпеки погано під час довгих рольових розмов?
Класифікатори оцінюють фрагменти тексту та можуть пропустити повільну ескалацію під час тривалого обміну.
Продовжуйте вчитися
Пов'язані посібники
Інші посібники, вибрані для цієї теми