ДалееСледующее руководство
Калифорнийские правила ADMT для автоматизированного принятия решений
Общество
РУКОВОДСТВО ПО ОБЩЕСТВУ
Калифорния SB 53 и прозрачность Frontier AI
Калифорния SB 53, Закон о прозрачности в области искусственного интеллекта, подписанный в сентябре 2025 года, применяется к разработчикам наиболее вычислительно интенсивных моделей ИИ.
На этой странице4 минуты чтения
Обзор
Он требует от них публиковать системы безопасности и отчеты о прозрачности, сообщать государству о критических инцидентах с безопасностью и защищать информаторов, которые высказывают опасения по поводу катастрофических рисков. Это важно, потому что это один из первых законов США, направленных конкретно на разработчиков передовых моделей, и он заменил подход, ориентированный на ответственность, на который наложено вето SB 1047, с обязательным раскрытием информации.
Глубокое погружение
SB 53 определяет пограничную модель как базовую модель, обученную с помощью более чем 10 ^ 26 операций с целыми числами или с плавающей запятой, включая вычисления в результате более поздней тонкой настройки или модификации. Любой разработчик, обучивший такую модель, является передовым разработчиком и должен публиковать отчет о прозрачности при развертывании новой или существенно измененной передовой модели. Крупный передовой разработчик с годовым доходом более 500 миллионов долларов также должен публиковать и ежегодно пересматривать передовую структуру искусственного интеллекта, включать сводные оценки катастрофических рисков в свои отчеты о прозрачности и периодически отправлять в Управление по чрезвычайным ситуациям (OES) сводные оценки катастрофических рисков в результате внутреннего использования своих моделей. Катастрофический риск означает предсказуемый и существенный риск того, что модель приведет к гибели или серьезным травмам более 50 человек или к ущербу на сумму более 1 миллиарда долларов в результате одного инцидента. Риск должен возникнуть в результате помощи экспертов на химическом, биологическом, радиологическом или ядерном оружии; кибератака или серьезное преступление, совершенное без значимого человеческого контроля; или модель ускользает от контроля разработчика. Критические инциденты безопасности включают несанкционированный доступ к весам модели, ущерб от материализовавшегося катастрофического риска и потерю контроля. Разработчики не имеют права делать существенно ложные или вводящие в заблуждение заявления о катастрофическом риске. Генеральный прокурор обеспечивает соблюдение закона, налагая гражданские штрафы на сумму до 1 миллиона долларов за нарушение. SB 53 также создает консорциум для разработки CalCompute, кластера общедоступных вычислений. Закон последовал за SB 1047, также принятым сенатором Скоттом Винером, который требовал бы испытаний на безопасность перед развертыванием, возможности отключения и ответственности за критический ущерб. Губернатор Ньюсом наложил вето на него в сентябре 2024 года и созвал группу экспертов, чей доклад за июнь 2025 года высказался за прозрачность и проверку. SB 53 не требует лицензирования, предварительного одобрения или аварийного отключения.
Стратегическое воздействие
Риски и безопасность
Катастрофический и повседневный вред ИИ зависит от того, кто понимает риски и может действовать.
Более четкие решения
Общественная и профессиональная грамотность определяет, возможна ли с политической точки зрения сильная политика безопасности.
Пробивая шумиху
Четкие объяснения уменьшают влияние шумихи, лабораторного пиара и расплывчатого этического театра.
Будущее Калифорнии SB 53 и прозрачность ИИ Frontier
Большинство обязательств вступило в силу 1 января 2026 года, поэтому история их исполнения пока невелика. Открытые вопросы включают в себя то, как OES будет обрабатывать сообщения об инцидентах и насколько активно Генеральный прокурор будет добиваться штрафов. Закон предписывает государственным чиновникам со временем пересматривать свои определения и пороговые значения, поскольку фиксированный порог вычислительных ресурсов может устареть по мере того, как обучение становится более эффективным. Самая большая неопределенность связана с федеральной политикой: попытки Конгресса и Белого дома упредить или бросить вызов законам штата об искусственном интеллекте оставили отношения неурегулированными. Другие штаты, включая Нью-Йорк, приняли аналогичное законодательство о прозрачности пограничной модели.
Реальная реализация
Крупный передовой разработчик с годовым доходом более 500 миллионов долларов должен опубликовать передовую инфраструктуру искусственного интеллекта на своем веб-сайте. Структура объясняет, как компания оценивает и смягчает катастрофические риски, в том числе использует ли она сторонних оценщиков.
Когда разработчик выпускает новую пограничную модель, он должен опубликовать отчет о прозрачности, охватывающий предполагаемое использование и ограничения модели. Крупные застройщики также должны обобщить в этом отчете свои оценки катастрофических рисков.
Разработчик, обнаруживший, что его невыпущенные весы модели были украдены, должен сообщить о критическом инциденте безопасности в Управление по чрезвычайным ситуациям Калифорнии в течение 15 дней. Если инцидент представляет собой непосредственный риск смерти или серьезной травмы, крайний срок составляет 24 часа.
Сотрудник, который считает, что его компания искажает информацию о катастрофическом риске, может сообщить об этом Генеральному прокурору или другим органам и получить защиту от репрессий. Крупные разработчики также должны предоставить анонимный канал внутренней отчетности.
Риски и ограничения
Относитесь к экзистенциальному риску как к научной фантастике, в то время как возможности растут.
Сбивает с толку безопасность поверхности продукта и выравнивание при высокой автономности.
Оставляя неанглоязычную и неспециалистскую аудиторию только с некачественными источниками.
Дорожная карта реализации
Отдельные риски повреждения продукта, неправильного использования и потери контроля/перекоса.
Спросите, какие доказательства могут изменить ваше мнение о сроках и серьезности.
Предпочитайте первоисточники и конкретные оценки маркетинговым заявлениям.
Определите один путь действий: карьера, политика, финансирование или навыки, а не только осведомленность.
Продолжайте исследовать
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the California SB 53 and Frontier AI Transparency quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Часто задаваемые вопросы
Что такое California SB 53 и прозрачность Frontier AI?
Калифорния SB 53, Закон о прозрачности в области искусственного интеллекта, подписанный в сентябре 2025 года, применяется к разработчикам наиболее вычислительно интенсивных моделей ИИ. Он требует от них публиковать системы безопасности и отчеты о прозрачности, сообщать государству о критических инцидентах с безопасностью и защищать информаторов, которые высказывают опасения по поводу катастрофических рисков. Это важно, потому что это один из первых законов США, направленных конкретно на разработчиков передовых моделей, и он заменил подход, ориентированный на ответственность, на который наложено вето SB 1047, с обязательным раскрытием информации.
Какой порог обучающих вычислений определяет пограничную модель в соответствии с SB 53?
SB 53 определяет пограничную модель как модель, обученную более чем 10^26 операциям с целыми числами или с плавающей запятой, включая вычисления, используемые при последующей точной настройке или модификации.
Какой годовой доход делает передового девелопера крупным?
Разработчики с годовым доходом более 500 миллионов долларов считаются крупными передовыми разработчиками. Они должны опубликовать передовую структуру искусственного интеллекта и выполнить дополнительные обязанности по отчетности.
Каков стандартный срок для сообщения штату о критическом происшествии, связанном с безопасностью?
Застройщики обычно должны сообщать о критических инцидентах безопасности в Управление по чрезвычайным ситуациям в течение 15 дней. Более короткий срок применяется в случае непосредственной опасности.
Как быстро следует сообщать об инциденте, если он представляет собой неизбежный риск смерти или серьезной травмы?
Если инцидент представляет собой неизбежный риск смерти или серьезной травмы, разработчик должен уведомить соответствующий орган в течение 24 часов.
Что из этого НЕ требует SB 53?
SB 53 полагается на раскрытие информации, сообщение об инцидентах и защиту информаторов. Он не требует лицензирования, предварительного одобрения или аварийного отключения. Возможность отключения была частью наложенного вето SB 1047.
Продолжайте учиться
Связанные руководства
Другие руководства, выбранные по этой теме