GDPR и автоматическое принятие решений
Общий регламент ЕС по защите данных дает людям права, когда компьютеры автоматически принимают важные решения о них.
Обзор
It is one of the world's most influential rules shaping how AI systems can be used on Europeans.
Глубокое погружение
GDPR, действующий с мая 2018 года, является ведущим законом ЕС о конфиденциальности. Наиболее важным для ИИ его положением является статья 22, в которой говорится, что люди имеют право не подчиняться решениям, основанным исключительно на автоматизированной обработке, которая приводит к юридическим или аналогичным значимым последствиям, таким как автоматический отказ в кредите или автоматический отказ в приеме на работу. Есть исключения: решение может быть разрешено, если оно необходимо для договора, разрешено законом или основано на явно выраженном согласии. Даже в этом случае организация должна предоставить гарантии, включая право на вмешательство человека, чтобы выразить свою точку зрения и оспорить решение. Статья 22 применяется всякий раз, когда решение является исключительно автоматизированным и значимым, независимо от того, был ли в нем задействован ИИ.
Техническая информация
Статья 22 опирается на два порога: решение должно быть исключительно автоматизированным (без значимого участия человека) и иметь юридические или аналогичные значимые последствия. Проверка человеком результатов работы алгоритма не считается значимой проверкой. В сочетании со статьями 13–15 контролеры должны предоставить содержательную информацию о задействованной логике. Это подталкивает компании к использованию объяснимых моделей и журналов аудита, поскольку они должны быть в состоянии описать, как входные данные сопоставляются с решением.
Стратегическое воздействие
Риски и безопасность
Катастрофический и повседневный вред ИИ зависит от того, кто понимает риски и может действовать.
Более четкие решения
Общественная и профессиональная грамотность определяет, возможна ли с политической точки зрения сильная политика безопасности.
Пробивая шумиху
Четкие объяснения уменьшают влияние шумихи, лабораторного пиара и расплывчатого этического театра.
Будущее GDPR и автоматизированного принятия решений
Обеспечение соблюдения GDPR усиливается, и теперь оно дублирует Закон ЕС об искусственном интеллекте, который добавляет обязательства по уровням риска для систем высокого риска, таких как кредитный скоринг и найм персонала. Ожидайте дополнительных указаний о том, что считается исключительно автоматизированным решением, более тщательного контроля за профилированием и крупных штрафов (до 4% мирового оборота). Суды, в том числе Суд ЕС в деле о кредитном рейтинге SCHUFA, активно разъясняют, когда само получение рейтинга приводит к срабатыванию защиты по статье 22.
Реальная реализация
Банк автоматически отклоняет заявку на кредитную карту, используя алгоритм оценки, а затем должен предложить заявителю возможность запросить проверку человеком.
Онлайн-кредитор должен сообщить отклоненному заемщику основные факторы, лежащие в основе автоматического отказа, согласно праву на значимую информацию о логике.
Платформа гиг-экономики, которая автоматически отключает водителей на основании рейтингов, сталкивается с проблемами по статье 22, связанными с исключительно автоматическими увольнениями.
Рекрутер, использующий программное обеспечение для проверки резюме с помощью искусственного интеллекта, должен создать контрольно-пропускной пункт перед окончательным отказом в приеме на работу, чтобы соответствовать статье 22.
Риски и ограничения
Относитесь к экзистенциальному риску как к научной фантастике, в то время как возможности растут.
Сбивает с толку безопасность поверхности продукта и выравнивание при высокой автономности.
Оставляя неанглоязычную и неспециалистскую аудиторию только с некачественными источниками.
Дорожная карта реализации
Отдельные риски повреждения продукта, неправильного использования и потери контроля/перекоса.
Спросите, какие доказательства могут изменить ваше мнение о сроках и серьезности.
Предпочитайте первоисточники и конкретные оценки маркетинговым заявлениям.
Определите один путь действий: карьера, политика, финансирование или навыки, а не только осведомленность.
Продолжайте исследовать
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the GDPR and Automated Decision-Making quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Следующее руководство
Принятие решений с помощью ИИ
Часто задаваемые вопросы
What is GDPR and Automated Decision-Making?
Общий регламент ЕС по защите данных дает людям права, когда компьютеры автоматически принимают важные решения о них. Это одно из самых влиятельных в мире правил, определяющих, как системы искусственного интеллекта могут использоваться в Европе.
В какой статье GDPR конкретно рассматриваются решения, основанные исключительно на автоматизированной обработке?
Статья 22 предоставляет физическим лицам право не подвергаться решениям, основанным исключительно на автоматизированной обработке, которые имеют юридические или аналогичные значимые последствия.
Для применения статьи 22 автоматическое решение должно иметь какой эффект?
Защита срабатывает, когда решение имеет юридические последствия или аналогичным образом существенно влияет на человека, например, отказ в кредите или отказ от работы.
Если в исключительных случаях допускается исключительно автоматизированное решение, какие меры защиты обычно должна обеспечивать организация?
Гарантии включают право на вмешательство человека, на выражение своей точки зрения и на оспаривание решения.
Что означает для статьи 22 то, что человек просто штампует результаты алгоритма?
Значимое участие человека требует подлинного контроля и полномочий для преодоления; подписание жетона сохраняет решение в рамках статьи 22.