ДалееСледующее руководство
Закон о прозрачности ИИ Калифорнии (SB 942, изменённый AB 853)
Общество
РУКОВОДСТВО ПО ОБЩЕСТВУ
Калифорния SB 53, Закон о прозрачности в области искусственного интеллекта, подписанный в сентябре 2025 года, применяется к разработчикам наиболее вычислительно интенсивных моделей ИИ.
Прослушайте это руководствоОзвучено ИИ · ~3 min
Он требует от них публиковать системы безопасности и отчеты о прозрачности, сообщать государству о критических инцидентах с безопасностью и защищать информаторов, которые высказывают опасения по поводу катастрофических рисков. Это важно, потому что это один из первых законов США, направленных конкретно на разработчиков передовых моделей, и он заменил подход, ориентированный на ответственность, на который наложено вето SB 1047, с обязательным раскрытием информации.
SB 53 определяет пограничную модель как базовую модель, обученную с помощью более чем 10 ^ 26 операций с целыми числами или с плавающей запятой, включая вычисления в результате более поздней тонкой настройки или модификации. Любой разработчик, обучивший такую модель, является передовым разработчиком и должен публиковать отчет о прозрачности при развертывании новой или существенно измененной передовой модели. Крупный передовой разработчик с годовым доходом более 500 миллионов долларов также должен публиковать и ежегодно пересматривать передовую структуру искусственного интеллекта, включать сводные оценки катастрофических рисков в свои отчеты о прозрачности и периодически отправлять в Управление по чрезвычайным ситуациям (OES) сводные оценки катастрофических рисков в результате внутреннего использования своих моделей. Катастрофический риск означает предсказуемый и существенный риск того, что модель приведет к гибели или серьезным травмам более 50 человек или к ущербу на сумму более 1 миллиарда долларов в результате одного инцидента. Риск должен возникнуть в результате помощи экспертов на химическом, биологическом, радиологическом или ядерном оружии; кибератака или серьезное преступление, совершенное без значимого человеческого контроля; или модель ускользает от контроля разработчика. Критические инциденты безопасности включают несанкционированный доступ к весам модели, ущерб от материализовавшегося катастрофического риска и потерю контроля. Разработчики не имеют права делать существенно ложные или вводящие в заблуждение заявления о катастрофическом риске. Генеральный прокурор обеспечивает соблюдение закона, налагая гражданские штрафы на сумму до 1 миллиона долларов за нарушение. SB 53 также создает консорциум для разработки CalCompute, кластера общедоступных вычислений. Закон последовал за SB 1047, также принятым сенатором Скоттом Винером, который требовал бы испытаний на безопасность перед развертыванием, возможности отключения и ответственности за критический ущерб. Губернатор Ньюсом наложил вето на него в сентябре 2024 года и созвал группу экспертов, чей доклад за июнь 2025 года высказался за прозрачность и проверку. SB 53 не требует лицензирования, предварительного одобрения или аварийного отключения.
Крупный передовой разработчик с годовым доходом более 500 миллионов долларов должен опубликовать передовую инфраструктуру искусственного интеллекта на своем веб-сайте. Структура объясняет, как компания оценивает и смягчает катастрофические риски, в том числе использует ли она сторонних оценщиков.
Когда разработчик выпускает новую пограничную модель, он должен опубликовать отчет о прозрачности, охватывающий предполагаемое использование и ограничения модели. Крупные застройщики также должны обобщить в этом отчете свои оценки катастрофических рисков.
Разработчик, обнаруживший, что его невыпущенные весы модели были украдены, должен сообщить о критическом инциденте безопасности в Управление по чрезвычайным ситуациям Калифорнии в течение 15 дней. Если инцидент представляет собой непосредственный риск смерти или серьезной травмы, крайний срок составляет 24 часа.
Сотрудник, который считает, что его компания искажает информацию о катастрофическом риске, может сообщить об этом Генеральному прокурору или другим органам и получить защиту от репрессий. Крупные разработчики также должны предоставить анонимный канал внутренней отчетности.
Большинство обязательств вступило в силу 1 января 2026 года, поэтому история их исполнения пока невелика. Открытые вопросы включают в себя то, как OES будет обрабатывать сообщения об инцидентах и насколько активно Генеральный прокурор будет добиваться штрафов. Закон предписывает государственным чиновникам со временем пересматривать свои определения и пороговые значения, поскольку фиксированный порог вычислительных ресурсов может устареть по мере того, как обучение становится более эффективным. Самая большая неопределенность связана с федеральной политикой: попытки Конгресса и Белого дома упредить или бросить вызов законам штата об искусственном интеллекте оставили отношения неурегулированными. Другие штаты, включая Нью-Йорк, приняли аналогичное законодательство о прозрачности пограничной модели.
Бесплатная рассылка
Три проверенных AI-истории каждое утро буднего дня, написанные простым английским. Бесплатно навсегда, без рекламы.
Одно электронное письмо каждый будний день. Отписаться в один клик. Мы никогда не продаем и не передаем ваш адрес.
Проверьте себя
Мгновенная обратная связь по каждому ответу и общий сертификат с проверяемым идентификатором после прохождения курса.
Поддержите бесплатное образование в области искусственного интеллекта. AI Understanding — это некоммерческая организация 501(c)(3). Никакой рекламы и платного доступа. Сделать пожертвование
Калифорния SB 53, Закон о прозрачности в области искусственного интеллекта, подписанный в сентябре 2025 года, применяется к разработчикам наиболее вычислительно интенсивных моделей ИИ. Он требует от них публиковать системы безопасности и отчеты о прозрачности, сообщать государству о критических инцидентах с безопасностью и защищать информаторов, которые высказывают опасения по поводу катастрофических рисков. Это важно, потому что это один из первых законов США, направленных конкретно на разработчиков передовых моделей, и он заменил подход, ориентированный на ответственность, на который наложено вето SB 1047, с обязательным раскрытием информации.
SB 53 определяет пограничную модель как модель, обученную более чем 10^26 операциям с целыми числами или с плавающей запятой, включая вычисления, используемые при последующей точной настройке или модификации.
Разработчики с годовым доходом более 500 миллионов долларов считаются крупными передовыми разработчиками. Они должны опубликовать передовую структуру искусственного интеллекта и выполнить дополнительные обязанности по отчетности.
Застройщики обычно должны сообщать о критических инцидентах безопасности в Управление по чрезвычайным ситуациям в течение 15 дней. Более короткий срок применяется в случае непосредственной опасности.
Если инцидент представляет собой неизбежный риск смерти или серьезной травмы, разработчик должен уведомить соответствующий орган в течение 24 часов.
SB 53 полагается на раскрытие информации, сообщение об инцидентах и защиту информаторов. Он не требует лицензирования, предварительного одобрения или аварийного отключения. Возможность отключения была частью наложенного вето SB 1047.
Продолжайте учиться
Другие руководства, выбранные по этой теме
ДалееСледующее руководство
Закон о прозрачности ИИ Калифорнии (SB 942, изменённый AB 853)
Общество