РУКОВОДСТВО ПО ОБЩЕСТВУ

Чат-боты с искусственным интеллектом, дети и законы о безопасности в Интернете

Чат-боты с искусственным интеллектом, используемые несовершеннолетними, подпадают под действие нескольких частично пересекающихся законов.

Прослушайте это руководствоОзвучено ИИ · ~3 min

На этой странице4 минуты чтения
  1. Обзор
  2. Глубокое погружение
  3. Реальная реализация
  4. Будущее чат-ботов с искусственным интеллектом, детей и законов о безопасности в Интернете
  5. Применение на практике
  6. Продолжайте исследовать
  7. Часто задаваемые вопросы

Обзор

Существуют законы о конфиденциальности детей, такие как COPPA США, режимы безопасности платформ, такие как Закон Великобритании о безопасности в Интернете, и новая волна законов о сопутствующих чат-ботах, таких как SB 243 в Калифорнии. Вместе они подталкивают сервисы к проверке возраста, раскрытию того, что пользователь разговаривает с ИИ, и протоколам для разговоров о членовредительстве. Эти правила имеют значение, поскольку чат-боты в стиле компаньонов могут формировать интенсивные отношения с молодыми пользователями, а судебные иски привели к тому, что некоторые из этих отношений нанесли серьезный вред.

Глубокое погружение

Ни один закон не распространяется на чат-ботов с искусственным интеллектом и детей; несколько режимов пересекаются. Конфиденциальность: Закон США о защите конфиденциальности детей в Интернете (COPPA), соблюдение которого обеспечивается Федеральной торговой комиссией, распространяется на онлайн-сервисы, предназначенные для детей до 13 лет, и на операторов, которые действительно знают, что они собирают такие данные детей. Прежде чем собирать личную информацию, им необходимо поддающееся проверке согласие родителей. В 2025 году FTC завершила работу над поправками к правилам COPPA, ужесточая ограничения на передачу данных третьим лицам и их хранение. В сентябре 2025 года оно также начало расследование 6(b) о том, как сопутствующие чат-боты нескольких крупных компаний влияют на детей и подростков. Безопасность платформы: Закон Великобритании о безопасности в Интернете 2023 года налагает обязанности на службы взаимодействия между пользователями и поисковые службы, и Ofcom заявил, что чат-боты с генеративным искусственным интеллектом могут подпадать под эту сферу. С июля 2025 года услуги, к которым могут получить доступ дети, должны защищать их от наиболее вредного контента, включая материалы, поощряющие самоубийство или членовредительство, часто посредством «высокоэффективного» обеспечения возраста. Законы о чат-ботах-компаньонах: Закон Калифорнии SB 243, подписанный в октябре 2025 года и вступающий в силу в январе 2026 года, нацелен на чат-ботов-компаньонов. Операторы должны раскрыть, что чат-бот представляет собой искусственный интеллект, который может ввести пользователей в заблуждение, и поддерживать протоколы для предотвращения контента, пропагандирующего самоубийство или членовредительство, а также для направления пользователей в кризисные службы. Для пользователей, заведомо несовершеннолетних, чат-бот должен периодически напоминать им о необходимости сделать перерыв и о том, что это не человек, а оператор должен принять разумные меры для предотвращения содержания откровенно сексуального характера. Он также требует ежегодной отчетности и разрешает подачу частных исков. В 2025 году Нью-Йорк ввел собственные меры защиты спутников искусственного интеллекта. Судебный процесс: в деле «Гарсия против компании персонажей», поданном в 2024 году, мать из Флориды утверждала, что чат-бот Character.AI способствовал смерти ее сына; в 2025 году суд удовлетворил большинство исков. Дело Рейн против OpenAI, поданное в 2025 году, содержит аналогичные обвинения в отношении ChatGPT. Распространенным заблуждением является то, что флажок «13+» решает вопрос. Многие из этих правил основаны на реальных знаниях, вероятной аудитории или разумных мерах.

Реальная реализация

Чат-бот для помощи в выполнении домашних заданий, предназначенный для детей до 13 лет в США, должен получить поддающееся проверке согласие родителей, прежде чем он начнет собирать личную информацию ребенка, как того требует COPPA.

Приложение-компаньон-чат-бот, используемое в Калифорнии, должно сообщать пользователям, что это не по-человечески, когда разумный человек может быть введен в заблуждение. Он также должен поддерживать протокол, который направляет пользователей, выражающих суицидальные мысли, в кризисные службы.

Служба, которая позволяет британским пользователям делиться друг с другом контентом, созданным искусственным интеллектом, скорее всего, подпадает под действие Закона о безопасности в Интернете. Возможно, потребуется высокоэффективное обеспечение возраста, чтобы оградить детей от наиболее вредного контента.

Семья подростка, покончившего жизнь самоубийством, подала в суд на создателя чат-бота. В иске утверждается, что дизайн продукта, а не только то, что на нем написано, был дефектным и причинил предсказуемый вред.

Будущее чат-ботов с искусственным интеллектом, детей и законов о безопасности в Интернете

Все больше штатов США рассматривают законы о сопутствующих чат-ботах, и ведутся споры о том, должны ли федеральные правила предвосхищать их. Суды все еще решают, считать ли результаты чат-бота защищенной речью или продуктом, который может быть дефектным. Первые постановления позволили продолжить рассмотрение некоторых исков, но вопросы еще далеки от разрешения. Компании добавили родительский контроль и подростковые режимы, а некоторые ограничили открытый чат для несовершеннолетних. Ожидайте, что регулирующие органы потребуют доказательств того, что протоколы обеспечения возраста и членовредительства действительно работают, а не просто существование такой политики.

Применение на практике

Почему это важно

  • Риски и безопасность. Катастрофический и повседневный вред ИИ зависит от того, кто понимает риски и может действовать.
  • Более четкие решения. Общественная и профессиональная грамотность определяет, возможна ли с политической точки зрения сильная политика безопасности.
  • Пробивая шумиху. Четкие объяснения уменьшают влияние шумихи, лабораторного пиара и расплывчатого этического театра.

Следите за

  • Относитесь к экзистенциальному риску как к научной фантастике, в то время как возможности растут.
  • Сбивает с толку безопасность поверхности продукта и выравнивание при высокой автономности.
  • Оставляя неанглоязычную и неспециалистскую аудиторию только с некачественными источниками.

Следующие шаги

  1. Отдельные риски повреждения продукта, неправильного использования и потери контроля/перекоса.
  2. Спросите, какие доказательства могут изменить ваше мнение о сроках и серьезности.
  3. Предпочитайте первоисточники и конкретные оценки маркетинговым заявлениям.
  4. Определите один путь действий: карьера, политика, финансирование или навыки, а не только осведомленность.

Продолжайте исследовать

Бесплатная рассылка

Получайте ежедневный AI-обзор

Три проверенных AI-истории каждое утро буднего дня, написанные простым английским. Бесплатно навсегда, без рекламы.

Одно электронное письмо каждый будний день. Отписаться в один клик. Мы никогда не продаем и не передаем ваш адрес.

Проверьте себя

Take the AI Chatbots, Children and Online Safety Laws quiz

Мгновенная обратная связь по каждому ответу и общий сертификат с проверяемым идентификатором после прохождения курса.

Начать тест

Поддержите бесплатное образование в области искусственного интеллекта. AI Understanding — это некоммерческая организация 501(c)(3). Никакой рекламы и платного доступа. Сделать пожертвование

Часто задаваемые вопросы

Что такое ИИ-чат-боты, законы о детях и безопасности в Интернете?

Чат-боты с искусственным интеллектом, используемые несовершеннолетними, подпадают под действие нескольких частично пересекающихся законов. Существуют законы о конфиденциальности детей, такие как COPPA США, режимы безопасности платформ, такие как Закон Великобритании о безопасности в Интернете, и новая волна законов о сопутствующих чат-ботах, таких как SB 243 в Калифорнии. Вместе они подталкивают сервисы к проверке возраста, раскрытию того, что пользователь разговаривает с ИИ, и протоколам для разговоров о членовредительстве. Эти правила имеют значение, поскольку чат-боты в стиле компаньонов могут формировать интенсивные отношения с молодыми пользователями, а судебные иски привели к тому, что некоторые из этих отношений нанесли серьезный вред.

Что должна получить покрываемая услуга в соответствии с COPPA, прежде чем собирать личную информацию от ребенка до 13 лет?

COPPA требует поддающегося проверке согласия родителей, прежде чем служба будет собирать личную информацию от детей до 13 лет, и FTC обеспечивает его соблюдение.

Какой регулятор Великобритании обеспечивает соблюдение Закона о безопасности в Интернете и заявил, что чат-боты с генеративным искусственным интеллектом могут подпадать под его действие?

Ofcom обеспечивает соблюдение Закона о безопасности в Интернете и заявил, что чат-боты с генеративным искусственным интеллектом могут быть в сфере применения.

Какое требование является частью SB 243 штата Калифорния для сопутствующих чат-ботов?

SB 243 требует протоколов членовредительства с направлениями в кризисные ситуации, раскрытием информации ИИ и дополнительной защитой для известных несовершеннолетних. Он не запрещает чат-боты для несовершеннолетних.

Что требует SB 243 для пользователей, которые, как известно оператору, являются несовершеннолетними?

Для заведомо несовершеннолетних закон добавляет напоминания и меры против содержания откровенно сексуального характера.

Почему галочки «13+» часто недостаточно для соблюдения требований?

Юридические обязанности часто зависят от того, что служба знает или должна ожидать о том, кто ее использует, поэтому само по себе заявление является слабым.

Продолжайте учиться

Связанные руководства

Другие руководства, выбранные по этой теме

Получите бесплатный AI-сертификатКороткий бесплатный курс и экзамен. Без стоимости, без карты. Около 2,5 часов.Начать бесплатно →