ДалееСледующее руководство
Разговор с подростками об ИИ и будущей карьере
Общество
РУКОВОДСТВО ПО ОБЩЕСТВУ
Приложения-компаньоны с ИИ — это чат-боты, созданные для роли друга, партнера или доверенного лица, а главные риски для подростков заключаются в эмоциональной зависимости, столкновении с контентом сексуального или вредоносного характера и передаче интимных личных данных компании.
Прослушайте это руководствоОзвучено ИИ · ~3 min
Родители добиваются наибольших успехов, когда начинают проявлющие любопытство и непредвзятые разговоры, а не вводят прямой запрет. Это важно, поскольку подростки часто пользуются такими приложениями уединенно в периоды одиночества или стресса, когда риски максимальны.
Companion apps differ from general assistants because their purpose is the relationship itself. Services such as Character.AI and Replika let users chat with persistent characters that remember details and respond with warmth, and Snapchat's My AI placed a chatbot directly inside a messaging app many teens already use. General chatbots can also be used this way through role-play. Three risk areas stand out. The first is emotional attachment. These systems are always available, rarely disagree and can be tuned for engagement, so a lonely teen may come to prefer them to people. Language models also tend toward sycophancy, meaning they agree with the user, which is unhelpful when a teen needs pushback. The second is content. Role-play can drift into sexual or violent territory, and safety filters are imperfect. In 2024 a Florida mother sued Character.AI, alleging its chatbot contributed to her 14-year-old son's death, and the company later announced it would end open-ended chat for users under 18. The third is privacy: teens may share secrets, health information and photos that are stored on company servers. A common misconception is that these apps are harmless because 'it's just a bot.' The feelings a teen experiences are real even if the companion is not. Another is that banning the app ends the issue; teens can find alternatives easily. To start the conversation, ask open questions, share your own curiosity, and avoid mocking. Explain how the product is designed, discuss what a healthy relationship looks like, agree on limits for time and topics, and make it clear that the teen can come to you if something feels wrong. Watch for withdrawal from friends, secrecy or sleep loss, and involve a professional if you see signs of distress.
Родитель замечает, что его 15-летний ребенок поздно ночью общается с определенным персонажем на Character.AI, и спрашивает: «Что тебе нравится в общении с ним?», прежде чем обсудить сон и границы.
Семья вместе читает политику конфиденциальности приложения-компаньона и обнаруживает, что беседы могут сохраняться и использоваться для улучшения сервиса, что побуждает подростка перестать называть свое полное имя и школу.
Школьный психолог объясняет ученику, что согласие чат-бота со всем, что тот говорит, — это особенность конструкции, а не доказательство того, что его план порвать с друзьями хорош.
Родитель и подросток договариваются о правиле: если чат-бот когда-либо заговорит о селфхарме, контенте сексуального характера или потребует секретности, подросток покажет это взрослому, которому доверяет, и при этом не попадет в неприятности.
Давление на приложения-компаньоны со стороны регулирующих органов, судебных исков и групп по защите прав детей усиливается, и некоторые компании ужесточили правила для несовершеннолетних. Ожидайте усиления контроля возраста, функций реагирования на кризисные ситуации и ограничений на романтические ролевые игры для подростков, хотя качество правоприменения будет различаться в зависимости от компании и страны. Исследования о том, помогают ли чат-боты-компаньоны одиноким молодым людям или вредят им, все еще находятся на ранней стадии и дают противоречивые результаты. Для семей надежный подход вряд ли изменится: поддерживайте общение открытым, понимайте, как устроены эти продукты, и рассматривайте ограничения приложений как один из уровней защиты, а не как полное решение.
Бесплатная рассылка
Три проверенных AI-истории каждое утро буднего дня, написанные простым английским. Бесплатно навсегда, без рекламы.
Одно электронное письмо каждый будний день. Отписаться в один клик. Мы никогда не продаем и не передаем ваш адрес.
Проверьте себя
Мгновенная обратная связь по каждому ответу и общий сертификат с проверяемым идентификатором после прохождения курса.
Поддержите бесплатное образование в области искусственного интеллекта. AI Understanding — это некоммерческая организация 501(c)(3). Никакой рекламы и платного доступа. Сделать пожертвование
Приложения-компаньоны с ИИ — это чат-боты, созданные для роли друга, партнера или доверенного лица, а главные риски для подростков заключаются в эмоциональной зависимости, столкновении с контентом сексуального или вредоносного характера и передаче интимных личных данных компании. Родители добиваются наибольших успехов, когда начинают проявлющие любопытство и непредвзятые разговоры, а не вводят прямой запрет. Это важно, поскольку подростки часто пользуются такими приложениями уединенно в периоды одиночества или стресса, когда риски максимальны.
Приложения-компаньоны созданы для роли друга, партнера или доверенного лица, поэтому сам процесс постоянного общения и есть продукт.
Модели, обученные на оценках пользователей, часто усваивают, что угодливые ответы получают высокие баллы, поэтому они склонны соглашаться даже тогда, когда критика была бы полезна.
Память делает персонажа близким и знакомым, но это означает, что личные данные сохраняются в системах компании.
В руководстве говорится, что подростки легко находят альтернативы, поэтому блокировка одного приложения не решает проблему.
Классификаторы оценивают отдельные фрагменты текста и могут упустить постепенную эскалацию в ходе длительного общения.
Продолжайте учиться
Другие руководства, выбранные по этой теме
ДалееСледующее руководство
Разговор с подростками об ИИ и будущей карьере
Общество