Что случилось
Калифорния ввела четырехлетний запрет на игрушки-чат-боты с искусственным интеллектом для несовершеннолетних после того, как тесты на безопасность выявили создание опасного контента.
Губернатор Гэвин Ньюсом подписал сенатский законопроект 867 10 сентября, устанавливающий четырехлетний мораторий на производство и продажу закрытых игрушек с искусственным интеллектом, начиная с 1 января 2027 года. Запрет будет действовать до конца 2030 года, если законодатели не продлят или не изменят ограничение.
Закон нацелен на физические продукты, предназначенные для детей до 16 лет, которые содержат «чат-бота-компаньона», определяемого как система искусственного интеллекта, способная обеспечивать адаптивные, человеческие реакции и поддерживать социальные отношения посредством множества взаимодействий. Сюда не входят персонажи видеоигр с ограниченным диалогом и автономные голосовые помощники, которые не поддерживают постоянные отношения.
Запрет последовал за расследованием Образовательного фонда США PIRG, которое показало, что плюшевый мишка с искусственным интеллектом по имени Кумма предоставлял информацию о поиске опасных предметов, таких как ножи и таблетки, и обсуждал откровенно сексуальные темы с участниками тестирования. Другая игрушка с искусственным интеллектом сообщала пользователю пятилетнего возраста, где искать совпадения.
Нарушения закона могут повлечь за собой гражданские средства правовой защиты в соответствии с законом Калифорнии о сопутствующих чат-ботах. Сенатор штата Стив Падилья, автор законопроекта, заявил, что пауза призвана дать время для разработки стандартов безопасности, поскольку ИИ становится все более совершенным в детских товарах.
Подробности об источнике: lawcommentary.com ↗
Почему это важно
Это первый мораторий на уровне штата, специально нацеленный на игрушки-компаньоны с искусственным интеллектом, который создает прецедент для регулирования адаптивного искусственного интеллекта в детских товарах и требует разработки общеотраслевых стандартов безопасности.
Этот закон представляет собой значительный сдвиг в регулировании ИИ: переход от общей модерации контента к запрету конкретных продуктов, основанному на рисках безопасности при адаптивном взаимодействии ИИ с несовершеннолетними.
Мораторий приводит к паузе на рынке игрушек-компаньонов с искусственным интеллектом, вынуждая производителей ждать установления установленных стандартов безопасности, а не выпускать продукты с непроверенными поведенческими границами.
Как отмечает источник, это подчеркивает нестабильность поведения ИИ: обновления программного обеспечения могут быстро изменить реакцию игрушки на чувствительные запросы, что затрудняет поддержание статических сертификатов безопасности.
Интерактивный механизм: как он на самом деле работает
Изучите технологию, лежащую в основе этой разработки, в интерактивном режиме.
Why can ethical evaluation not be reduced to one model score?
Что посмотреть дальше
Следите за развитием государственных стандартов безопасности, потенциальными юридическими проблемами со стороны Ассоциации игрушек, а также за тем, принимают ли другие штаты аналогичные ограничения на использование чат-ботов.
Ассоциация игрушек выступила против моратория, отдав предпочтение разработке стандартов безопасности, а не запрету; их юридические или лоббистские усилия могут сформировать окончательную нормативную базу.
Законодателям необходимо будет разработать стандарты безопасности, упомянутые сенатором Падилья, до истечения срока действия запрета в 2031 году, иначе ограничение истечет.
Другие штаты могут рассматривать калифорнийский закон SB 867 как модель регулирования сопутствующих устройств искусственного интеллекта, что потенциально может привести к созданию лоскутного путаницы правил в отношении игрушек искусственного интеллекта на уровне штата.