Закон ЕС об искусственном интеллекте
Закон ЕС об искусственном интеллекте — это первый в мире всеобъемлющий закон, регулирующий искусственный интеллект, который распределяет системы искусственного интеллекта по уровням риска с правилами, которые расширяются по мере возрастания опасности.
Обзор
It matters because it sets a de facto global standard that any company selling AI into the EU must follow.
Глубокое погружение
Закон ЕС об искусственном интеллекте, принятый в 2024 году, использует подход, основанный на риске. Он полностью запрещает ряд практик «неприемлемого риска», таких как правительственный социальный рейтинг, манипулятивные подсознательные методы и нецелевое сканирование лиц для создания баз данных распознавания. Системы «высокого риска», такие как искусственный интеллект, используемый при найме, кредитном рейтинге, медицинском оборудовании или критической инфраструктуре, сталкиваются со строгими обязательствами: управление рисками, высококачественные данные, человеческий надзор, ведение журналов и оценка соответствия перед выходом на рынок. Инструменты с «ограниченным риском», такие как чат-боты, должны просто раскрывать, что пользователи взаимодействуют с ИИ. Модели ИИ общего назначения, включая большие языковые модели, несут свои собственные обязанности по обеспечению прозрачности и документирования, при этом особое внимание уделяется наиболее эффективным моделям «системного риска». Штрафы достигают до 35 миллионов евро или 7 процентов мирового оборота.
Техническая информация
Закон регулирует варианты использования, а не алгоритмы. Одна и та же модель может быть низкой для одного продукта и высокой для другого, в зависимости от контекста. Поставщики услуг высокого риска должны вести техническую документацию, вести автоматические журналы событий для отслеживания, обеспечивать актуальность и репрезентативность наборов данных, чтобы ограничить предвзятость, а также обеспечивать значимый человеческий надзор. Для моделей общего назначения поставщики публикуют сводные данные обучения и, при превышении порога вычислений (10^25 FLOP), проводят оценки моделей и состязательное тестирование.
Стратегическое воздействие
Риски и безопасность
Катастрофический и повседневный вред ИИ зависит от того, кто понимает риски и может действовать.
Более четкие решения
Общественная и профессиональная грамотность определяет, возможна ли с политической точки зрения сильная политика безопасности.
Пробивая шумиху
Четкие объяснения уменьшают влияние шумихи, лабораторного пиара и расплывчатого этического театра.
Будущее Закона ЕС об искусственном интеллекте
Закон будет действовать поэтапно в течение нескольких лет: запреты на запрещенные практики вступят в силу впервые в начале 2025 года, затем будут применяться типовые правила общего назначения, а большинство обязательств с высоким уровнем риска вступят в силу к 2026–2027 годам. Ожидается, что гармонизированные технические стандарты CEN-CENELEC будут точно определять, как измеряется соответствие, а также нормативные песочницы для стартапов. Как и GDPR до него, этот закон, скорее всего, будет формировать законы об искусственном интеллекте во всем мире, поскольку другие юрисдикции заимствуют его структуру уровней риска, даже несмотря на то, что критики спорят о том, замедляет ли он европейские инновации.
Реальная реализация
Банк, внедряющий инструмент оценки кредитоспособности на основе искусственного интеллекта, должен документировать свои данные обучения, проверять на предвзятость и предоставлять людям возможность просматривать и отменять автоматические отказы в кредитах.
Больница, использующая ИИ для сортировки медицинских сканирований, должна пройти оценку соответствия и зарегистрировать систему высокого риска в базе данных ЕС перед клиническим использованием.
Чат-бот службы поддержки клиентов должен четко сообщать пользователям, что они разговаривают с ИИ, а не с человеком-агентом, в соответствии с правилом прозрачности с ограниченным риском.
Создатель большой языковой модели, превышающей порог вычислений, должен провести состязательное тестирование красной командой и сообщить о серьезных инцидентах в Управление искусственного интеллекта ЕС.
Риски и ограничения
Относитесь к экзистенциальному риску как к научной фантастике, в то время как возможности растут.
Сбивает с толку безопасность поверхности продукта и выравнивание при высокой автономности.
Оставляя неанглоязычную и неспециалистскую аудиторию только с некачественными источниками.
Дорожная карта реализации
Отдельные риски повреждения продукта, неправильного использования и потери контроля/перекоса.
Спросите, какие доказательства могут изменить ваше мнение о сроках и серьезности.
Предпочитайте первоисточники и конкретные оценки маркетинговым заявлениям.
Определите один путь действий: карьера, политика, финансирование или навыки, а не только осведомленность.
Продолжайте исследовать
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the EU AI Act quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Следующее руководство
ISO/IEC 42001 Управление искусственным интеллектом
Часто задаваемые вопросы
What is EU AI Act?
Закон ЕС об искусственном интеллекте — это первый в мире всеобъемлющий закон, регулирующий искусственный интеллект, который распределяет системы искусственного интеллекта по уровням риска с правилами, которые расширяются по мере возрастания опасности. Это важно, поскольку де-факто устанавливает глобальный стандарт, которому должна следовать любая компания, продающая ИИ в ЕС.
Какой организационный принцип использует Закон ЕС об искусственном интеллекте для установления своих правил?
Закон сортирует ИИ по уровням риска (неприемлемый, высокий, ограниченный, минимальный) в зависимости от варианта использования и потенциального вреда, а не от размера компании или типа алгоритма.
Что из этого является практикой «неприемлемого риска», полностью запрещенной Законом?
Государственный социальный рейтинг является одной из запрещенных практик, наряду с манипулятивными подсознательными методами и нецелевым распознаванием лиц.
Каково основное обязательство системы с «ограниченным риском», такой как чат-бот?
Системы с ограниченным риском в основном несут ответственность за прозрачность, например, сообщая пользователям, что они имеют дело с ИИ, а не с человеком.
Каков максимальный финансовый штраф в соответствии с Законом ЕС об искусственном интеллекте?
Самые крупные штрафы за наиболее серьезные нарушения достигают 35 миллионов евро или 7 процентов мирового годового оборота, в зависимости от того, что больше.
Как Закон рассматривает одну и ту же модель искусственного интеллекта, используемую в двух разных продуктах?
Поскольку Закон регулирует варианты использования, одна модель может быть связана с высоким риском в инструменте найма, но с низким уровнем риска в другом приложении.