ДалееСледующее руководство
Закон Великобритании о безопасности в Интернете и чат-боты с искусственным интеллектом
Общество
РУКОВОДСТВО ПО ОБЩЕСТВУ
Чат-боты с искусственным интеллектом, используемые несовершеннолетними, подпадают под действие нескольких частично пересекающихся законов.
Прослушайте это руководствоОзвучено ИИ · ~3 min
Существуют законы о конфиденциальности детей, такие как COPPA США, режимы безопасности платформ, такие как Закон Великобритании о безопасности в Интернете, и новая волна законов о сопутствующих чат-ботах, таких как SB 243 в Калифорнии. Вместе они подталкивают сервисы к проверке возраста, раскрытию того, что пользователь разговаривает с ИИ, и протоколам для разговоров о членовредительстве. Эти правила имеют значение, поскольку чат-боты в стиле компаньонов могут формировать интенсивные отношения с молодыми пользователями, а судебные иски привели к тому, что некоторые из этих отношений нанесли серьезный вред.
Ни один закон не распространяется на чат-ботов с искусственным интеллектом и детей; несколько режимов пересекаются. Конфиденциальность: Закон США о защите конфиденциальности детей в Интернете (COPPA), соблюдение которого обеспечивается Федеральной торговой комиссией, распространяется на онлайн-сервисы, предназначенные для детей до 13 лет, и на операторов, которые действительно знают, что они собирают такие данные детей. Прежде чем собирать личную информацию, им необходимо поддающееся проверке согласие родителей. В 2025 году FTC завершила работу над поправками к правилам COPPA, ужесточая ограничения на передачу данных третьим лицам и их хранение. В сентябре 2025 года оно также начало расследование 6(b) о том, как сопутствующие чат-боты нескольких крупных компаний влияют на детей и подростков. Безопасность платформы: Закон Великобритании о безопасности в Интернете 2023 года налагает обязанности на службы взаимодействия между пользователями и поисковые службы, и Ofcom заявил, что чат-боты с генеративным искусственным интеллектом могут подпадать под эту сферу. С июля 2025 года услуги, к которым могут получить доступ дети, должны защищать их от наиболее вредного контента, включая материалы, поощряющие самоубийство или членовредительство, часто посредством «высокоэффективного» обеспечения возраста. Законы о чат-ботах-компаньонах: Закон Калифорнии SB 243, подписанный в октябре 2025 года и вступающий в силу в январе 2026 года, нацелен на чат-ботов-компаньонов. Операторы должны раскрыть, что чат-бот представляет собой искусственный интеллект, который может ввести пользователей в заблуждение, и поддерживать протоколы для предотвращения контента, пропагандирующего самоубийство или членовредительство, а также для направления пользователей в кризисные службы. Для пользователей, заведомо несовершеннолетних, чат-бот должен периодически напоминать им о необходимости сделать перерыв и о том, что это не человек, а оператор должен принять разумные меры для предотвращения содержания откровенно сексуального характера. Он также требует ежегодной отчетности и разрешает подачу частных исков. В 2025 году Нью-Йорк ввел собственные меры защиты спутников искусственного интеллекта. Судебный процесс: в деле «Гарсия против компании персонажей», поданном в 2024 году, мать из Флориды утверждала, что чат-бот Character.AI способствовал смерти ее сына; в 2025 году суд удовлетворил большинство исков. Дело Рейн против OpenAI, поданное в 2025 году, содержит аналогичные обвинения в отношении ChatGPT. Распространенным заблуждением является то, что флажок «13+» решает вопрос. Многие из этих правил основаны на реальных знаниях, вероятной аудитории или разумных мерах.
Чат-бот для помощи в выполнении домашних заданий, предназначенный для детей до 13 лет в США, должен получить поддающееся проверке согласие родителей, прежде чем он начнет собирать личную информацию ребенка, как того требует COPPA.
Приложение-компаньон-чат-бот, используемое в Калифорнии, должно сообщать пользователям, что это не по-человечески, когда разумный человек может быть введен в заблуждение. Он также должен поддерживать протокол, который направляет пользователей, выражающих суицидальные мысли, в кризисные службы.
Служба, которая позволяет британским пользователям делиться друг с другом контентом, созданным искусственным интеллектом, скорее всего, подпадает под действие Закона о безопасности в Интернете. Возможно, потребуется высокоэффективное обеспечение возраста, чтобы оградить детей от наиболее вредного контента.
Семья подростка, покончившего жизнь самоубийством, подала в суд на создателя чат-бота. В иске утверждается, что дизайн продукта, а не только то, что на нем написано, был дефектным и причинил предсказуемый вред.
Все больше штатов США рассматривают законы о сопутствующих чат-ботах, и ведутся споры о том, должны ли федеральные правила предвосхищать их. Суды все еще решают, считать ли результаты чат-бота защищенной речью или продуктом, который может быть дефектным. Первые постановления позволили продолжить рассмотрение некоторых исков, но вопросы еще далеки от разрешения. Компании добавили родительский контроль и подростковые режимы, а некоторые ограничили открытый чат для несовершеннолетних. Ожидайте, что регулирующие органы потребуют доказательств того, что протоколы обеспечения возраста и членовредительства действительно работают, а не просто существование такой политики.
Бесплатная рассылка
Три проверенных AI-истории каждое утро буднего дня, написанные простым английским. Бесплатно навсегда, без рекламы.
Одно электронное письмо каждый будний день. Отписаться в один клик. Мы никогда не продаем и не передаем ваш адрес.
Проверьте себя
Мгновенная обратная связь по каждому ответу и общий сертификат с проверяемым идентификатором после прохождения курса.
Поддержите бесплатное образование в области искусственного интеллекта. AI Understanding — это некоммерческая организация 501(c)(3). Никакой рекламы и платного доступа. Сделать пожертвование
Чат-боты с искусственным интеллектом, используемые несовершеннолетними, подпадают под действие нескольких частично пересекающихся законов. Существуют законы о конфиденциальности детей, такие как COPPA США, режимы безопасности платформ, такие как Закон Великобритании о безопасности в Интернете, и новая волна законов о сопутствующих чат-ботах, таких как SB 243 в Калифорнии. Вместе они подталкивают сервисы к проверке возраста, раскрытию того, что пользователь разговаривает с ИИ, и протоколам для разговоров о членовредительстве. Эти правила имеют значение, поскольку чат-боты в стиле компаньонов могут формировать интенсивные отношения с молодыми пользователями, а судебные иски привели к тому, что некоторые из этих отношений нанесли серьезный вред.
COPPA требует поддающегося проверке согласия родителей, прежде чем служба будет собирать личную информацию от детей до 13 лет, и FTC обеспечивает его соблюдение.
Ofcom обеспечивает соблюдение Закона о безопасности в Интернете и заявил, что чат-боты с генеративным искусственным интеллектом могут быть в сфере применения.
SB 243 требует протоколов членовредительства с направлениями в кризисные ситуации, раскрытием информации ИИ и дополнительной защитой для известных несовершеннолетних. Он не запрещает чат-боты для несовершеннолетних.
Для заведомо несовершеннолетних закон добавляет напоминания и меры против содержания откровенно сексуального характера.
Юридические обязанности часто зависят от того, что служба знает или должна ожидать о том, кто ее использует, поэтому само по себе заявление является слабым.
Продолжайте учиться
Другие руководства, выбранные по этой теме
ДалееСледующее руководство
Закон Великобритании о безопасности в Интернете и чат-боты с искусственным интеллектом
Общество