РУКОВОДСТВО ПО ОБЩЕСТВУ

Алгоритмические оценки воздействия

Алгоритмическая оценка воздействия (AIA) — это структурированный анализ, проводимый до и во время развертывания, который определяет, на кого может повлиять автоматизированная система или система искусственного интеллекта, какой вред она может причинить и какие меры защиты помогут их уменьшить.

Прослушайте это руководствоОзвучено ИИ · ~3 min

На этой странице4 минуты чтения
  1. Обзор
  2. Глубокое погружение
  3. Реальная реализация
  4. Будущее алгоритмических оценок воздействия
  5. Применение на практике
  6. Продолжайте исследовать
  7. Часто задаваемые вопросы

Обзор

Это важно, поскольку заставляет организации заранее документировать риски и решения, а такие правила, как Директива Канады об автоматизированном принятии решений и Закон ЕС об искусственном интеллекте, теперь требуют их версий.

Глубокое погружение

AIA заимствует оценки воздействия на окружающую среду и конфиденциальность: продумайте последствия, прежде чем действовать, запишите их и примите меры по смягчению последствий. Хорошая оценка обычно охватывает цель и правовую основу системы; какое решение оно поддерживает и насколько оно заменяет человеческое суждение; источники данных и их качество; затронутые группы, особенно уязвимые; предсказуемый вред, такой как дискриминация, ошибка, потеря конфиденциальности или исключение; способы надзора, разъяснения и апелляции; и план мониторинга и обзора. Канада представляет собой наиболее известный пример государственного управления. Его Директива об автоматизированном принятии решений, действующая с 2019 года, требует от федеральных учреждений проведения алгоритмической оценки воздействия перед использованием автоматизированных систем принятия решений. AIA — это онлайн-анкета, содержащая вопросы о рисках и вопросах по смягчению последствий. Оценка ставит систему на один из четырех уровней воздействия, от незначительного до очень высокого, и каждый уровень вызывает определенные требования, такие как экспертная оценка, уведомление затронутых людей, вмешательство человека в решения и объяснения. Завершенные оценки публикуются на правительственном портале открытых данных. Закон ЕС об искусственном интеллекте добавляет оценку воздействия на фундаментальные права (FRIA) в соответствии со статьей 27. Он применяется к тем, кто развертывает системы высокого риска, которые являются государственными или частными организациями, предоставляющими государственные услуги, а также к тем, кто развертывает определенные системы, такие как кредитный скоринг и ценообразование по страхованию жизни и здоровья. В FRIA описывается, как и как часто используется система, кто затрагивается, конкретные риски, меры человеческого надзора и что произойдет, если риски материализуются, а пользователь, внедряющий систему, уведомляет орган по надзору за рынком. Он дополняет, а не заменяет оценку воздействия на защиту данных в соответствии с GDPR. Распространенным заблуждением является то, что AIA представляет собой единоразовую форму соответствия. Его ценность заключается в изменении проектных решений и в возможности его пересмотра при изменении системы, данных или контекста.

Реальная реализация

Канадский федеральный департамент, планирующий использовать модель для сортировки заявлений на получение визы, заполняет правительственную онлайн-анкету AIA, получает уровень воздействия, а затем должен организовать экспертную оценку и участие людей в окончательных решениях, как того требует этот уровень.

Региональный банк в ЕС, внедряющий систему кредитного скоринга высокого риска, готовит оценку воздействия на фундаментальные права, описывая затронутые группы заявителей, риски дискриминации, механизмы человеческого надзора и способы рассмотрения жалоб.

Городское жилищное агентство, рассматривающее возможность использования инструмента оценки рисков арендаторов, проводит общественные консультации в рамках своей оценки и решает отказаться от истории выселений в качестве исходных данных после того, как защитники показывают, что он отслеживает прошлую дискриминацию.

Больница, внедрившая модель оповещения о сепсисе, обновляет свою оценку воздействия после года использования, добавляя мониторинг частоты ложных тревог в отделениях и группах пациентов.

Будущее алгоритмических оценок воздействия

Оценка воздействия становится стандартной частью управления ИИ, а не дополнительным этическим упражнением. Поскольку обязательства Закона ЕС об искусственном интеллекте вступают в силу для систем высокого риска, организациям потребуются повторяемые шаблоны, а регулирующие органы могут опубликовать дополнительные рекомендации о том, что содержит достаточный FRIA. Такие стандарты, как ISO/IEC 42005, могут помочь унифицировать практику в разных странах. Открытыми вопросами являются качество и независимость: оценки, написанные той же командой, которая хочет развернуть систему, могут стать галочкой. Публикация оценок, содержательные общественные консультации и внешний обзор являются механизмами, которые, скорее всего, сохранят их честность, но пока неясно, насколько широко они будут приняты.

Применение на практике

Почему это важно

  • Риски и безопасность. Катастрофический и повседневный вред ИИ зависит от того, кто понимает риски и может действовать.
  • Более четкие решения. Общественная и профессиональная грамотность определяет, возможна ли с политической точки зрения сильная политика безопасности.
  • Пробивая шумиху. Четкие объяснения уменьшают влияние шумихи, лабораторного пиара и расплывчатого этического театра.

Следите за

  • Относитесь к экзистенциальному риску как к научной фантастике, в то время как возможности растут.
  • Сбивает с толку безопасность поверхности продукта и выравнивание при высокой автономности.
  • Оставляя неанглоязычную и неспециалистскую аудиторию только с некачественными источниками.

Следующие шаги

  1. Отдельные риски повреждения продукта, неправильного использования и потери контроля/перекоса.
  2. Спросите, какие доказательства могут изменить ваше мнение о сроках и серьезности.
  3. Предпочитайте первоисточники и конкретные оценки маркетинговым заявлениям.
  4. Определите один путь действий: карьера, политика, финансирование или навыки, а не только осведомленность.

Продолжайте исследовать

Бесплатная рассылка

Получайте ежедневный AI-обзор

Три проверенных AI-истории каждое утро буднего дня, написанные простым английским. Бесплатно навсегда, без рекламы.

Одно электронное письмо каждый будний день. Отписаться в один клик. Мы никогда не продаем и не передаем ваш адрес.

Проверьте себя

Take the Algorithmic Impact Assessments quiz

Мгновенная обратная связь по каждому ответу и общий сертификат с проверяемым идентификатором после прохождения курса.

Начать тест

Поддержите бесплатное образование в области искусственного интеллекта. AI Understanding — это некоммерческая организация 501(c)(3). Никакой рекламы и платного доступа. Сделать пожертвование

Часто задаваемые вопросы

Что такое алгоритмическая оценка воздействия?

Алгоритмическая оценка воздействия (AIA) — это структурированный анализ, проводимый до и во время развертывания, который определяет, на кого может повлиять автоматизированная система или система искусственного интеллекта, какой вред она может причинить и какие меры защиты помогут их уменьшить. Это важно, поскольку заставляет организации заранее документировать риски и решения, а такие правила, как Директива Канады об автоматизированном принятии решений и Закон ЕС об искусственном интеллекте, теперь требуют их версий.

Какова основная цель алгоритмической оценки воздействия?

AIA – это структурированный обзор пострадавших людей, прогнозируемого вреда и мер по смягчению последствий, который проводится заранее и пересматривается с течением времени.

Какие виды оценок вдохновили подход AIA?

AIA заимствуют результаты оценок воздействия на окружающую среду и конфиденциальность: предвидят последствия, документируют их и берут на себя обязательства по смягчению последствий.

Что определяет балл по анкете в канадском AIA?

Оценка помещает систему в один из четырех уровней воздействия, каждый из которых имеет такие требования, как экспертная оценка, уведомление и вмешательство человека.

Где можно получить заполненные канадские AIA?

Заполненные канадские AIA публикуются на портале открытых правительственных данных, что обеспечивает прозрачность.

В какой статье Закона ЕС об искусственном интеллекте изложена оценка воздействия на фундаментальные права?

Статья 27 Закона об искусственном интеллекте охватывает FRIA для некоторых пользователей систем высокого риска.

Продолжайте учиться

Связанные руководства

Другие руководства, выбранные по этой теме

Получите бесплатный AI-сертификатКороткий бесплатный курс и экзамен. Без стоимости, без карты. Около 2,5 часов.Начать бесплатно →