ДалееСледующее руководство
Чат-боты с искусственным интеллектом, дети и законы о безопасности в Интернете
Общество
РУКОВОДСТВО ПО ОБЩЕСТВУ
Институты безопасности ИИ — это государственные органы, которые тестируют и изучают передовые модели ИИ.
Прослушайте это руководствоОзвучено ИИ · ~3 min
Они сосредоточены на таких рисках, как кибератаки, неправильное использование химических и биологических веществ и потеря контроля со стороны человека, часто оценивая модели перед их публичной публикацией. Они имеют значение, поскольку предоставляют правительствам независимую техническую экспертизу в области передового ИИ, хотя большинство из них зависят от добровольного сотрудничества со стороны компаний, а не от юридических полномочий.
Великобритания создала свой Институт безопасности ИИ в ноябре 2023 года во время Саммита по безопасности ИИ в Блетчли-Парке. Она выросла из Frontier AI Taskforce и стала одной из наиболее финансируемых правительственных групп по оценке ИИ, нанимая исследователей из ведущих лабораторий. В феврале 2025 года он был переименован в Институт безопасности искусственного интеллекта. Новое название отражает более узкий акцент на вреде национальной безопасности, таком как кибернеправомерное использование, химические и биологические риски и преступность, а не на более широкие проблемы, такие как предвзятость. Институт безопасности искусственного интеллекта США был создан в рамках NIST в конце 2023 года после указа президента Байдена об искусственном интеллекте. В июне 2025 года Министерство торговли реорганизовало его в Центр стандартов и инноваций ИИ (CAISI). Мандат сместился в сторону добровольных стандартов, оценок, важных для национальной безопасности, и оценки иностранных систем искусственного интеллекта, при этом отказавшись от бренда «безопасности». Подобные органы созданы в Японии, Сингапуре, Канаде, Южной Корее, Франции и других странах. У Управления искусственного интеллекта ЕС есть некоторые параллельные функции, но оно является регулятором. В ноябре 2024 года Международная сеть институтов безопасности ИИ провела свое первое заседание в Сан-Франциско. Его членами-основателями были Австралия, Канада, ЕС, Франция, Япония, Кения, Южная Корея, Сингапур, Великобритания и США. Распространенным заблуждением является то, что эти институты могут блокировать выпуск моделей. Органы Великобритании и США не имеют общих законодательных полномочий принуждать к доступу или прекращать развертывание. Доступ к ним осуществляется на основе добровольных соглашений, а их выводы формируют политику и решения компаний, не будучи обязательными. Управление искусственного интеллекта ЕС отличается: в соответствии с Законом об искусственном интеллекте оно может запрашивать информацию у поставщиков моделей искусственного интеллекта общего назначения с системным риском и налагать на них обязательства.
Институты Великобритании и США совместно протестировали обновленный Claude 3.5 Sonnet и OpenAI o1 перед развертыванием и опубликовали резюме результатов в конце 2024 года.
Британский институт выпустил Inspect, платформу с открытым исходным кодом, которую исследователи и правительства других стран используют для создания и проведения оценок ИИ.
В 2024 году американский институт подписал соглашения с OpenAI и Anthropic, которые предоставили ему доступ к основным новым моделям до и после публичного выпуска.
Институты из нескольких стран провели совместное тестирование для сравнения методов, например, оценки поведения агентов на разных языках.
Роль институтов все еще меняется. Некоторые из них перешли от широких исследований безопасности к национальной безопасности, стандартам и промышленной конкурентоспособности, и их приоритеты могут продолжать меняться вместе с правительствами. Ключевые открытые вопросы заключаются в том, получит ли кто-либо из них законодательные полномочия, как их работа будет связана с регулирующими органами, такими как Управление искусственного интеллекта ЕС, и будет ли международное сотрудничество углубляться или разделяться по геополитическим линиям. Их долгосрочная ценность может зависеть от общих, воспроизводимых методов оценки и достаточного финансирования, чтобы не отставать от передовых лабораторий.
Бесплатная рассылка
Три проверенных AI-истории каждое утро буднего дня, написанные простым английским. Бесплатно навсегда, без рекламы.
Одно электронное письмо каждый будний день. Отписаться в один клик. Мы никогда не продаем и не передаем ваш адрес.
Проверьте себя
Мгновенная обратная связь по каждому ответу и общий сертификат с проверяемым идентификатором после прохождения курса.
Поддержите бесплатное образование в области искусственного интеллекта. AI Understanding — это некоммерческая организация 501(c)(3). Никакой рекламы и платного доступа. Сделать пожертвование
Институты безопасности ИИ — это государственные органы, которые тестируют и изучают передовые модели ИИ. Они сосредоточены на таких рисках, как кибератаки, неправильное использование химических и биологических веществ и потеря контроля со стороны человека, часто оценивая модели перед их публичной публикацией. Они имеют значение, поскольку предоставляют правительствам независимую техническую экспертизу в области передового ИИ, хотя большинство из них зависят от добровольного сотрудничества со стороны компаний, а не от юридических полномочий.
Новое название — Институт безопасности искусственного интеллекта — отражает более узкую ориентацию на риски национальной безопасности, такие как кибернетическое, химическое и биологическое использование, а также преступность.
Министерство торговли превратило его в CAISI, который занимается стандартами, оценками национальной безопасности и оценкой иностранных систем.
Первая встреча состоялась в Сан-Франциско в ноябре 2024 года.
Доступ к ним осуществляется на основе добровольных соглашений, а их выводы носят скорее рекомендательный, чем обязательный характер.
Inspect организует оценки в наборы данных, решатели и системы оценки, а также поддерживает изолированное тестирование агентов.
Продолжайте учиться
Другие руководства, выбранные по этой теме
ДалееСледующее руководство
Чат-боты с искусственным интеллектом, дети и законы о безопасности в Интернете
Общество