ДалееСледующее руководство
Оценка воздействия на основные права согласно статье 27
Общество
РУКОВОДСТВО ПО ОБЩЕСТВУ
Алгоритмическая оценка воздействия (AIA) — это структурированный анализ, проводимый до и во время развертывания, который определяет, на кого может повлиять автоматизированная система или система искусственного интеллекта, какой вред она может причинить и какие меры защиты помогут их уменьшить.
Прослушайте это руководствоОзвучено ИИ · ~3 min
Это важно, поскольку заставляет организации заранее документировать риски и решения, а такие правила, как Директива Канады об автоматизированном принятии решений и Закон ЕС об искусственном интеллекте, теперь требуют их версий.
AIA заимствует оценки воздействия на окружающую среду и конфиденциальность: продумайте последствия, прежде чем действовать, запишите их и примите меры по смягчению последствий. Хорошая оценка обычно охватывает цель и правовую основу системы; какое решение оно поддерживает и насколько оно заменяет человеческое суждение; источники данных и их качество; затронутые группы, особенно уязвимые; предсказуемый вред, такой как дискриминация, ошибка, потеря конфиденциальности или исключение; способы надзора, разъяснения и апелляции; и план мониторинга и обзора. Канада представляет собой наиболее известный пример государственного управления. Его Директива об автоматизированном принятии решений, действующая с 2019 года, требует от федеральных учреждений проведения алгоритмической оценки воздействия перед использованием автоматизированных систем принятия решений. AIA — это онлайн-анкета, содержащая вопросы о рисках и вопросах по смягчению последствий. Оценка ставит систему на один из четырех уровней воздействия, от незначительного до очень высокого, и каждый уровень вызывает определенные требования, такие как экспертная оценка, уведомление затронутых людей, вмешательство человека в решения и объяснения. Завершенные оценки публикуются на правительственном портале открытых данных. Закон ЕС об искусственном интеллекте добавляет оценку воздействия на фундаментальные права (FRIA) в соответствии со статьей 27. Он применяется к тем, кто развертывает системы высокого риска, которые являются государственными или частными организациями, предоставляющими государственные услуги, а также к тем, кто развертывает определенные системы, такие как кредитный скоринг и ценообразование по страхованию жизни и здоровья. В FRIA описывается, как и как часто используется система, кто затрагивается, конкретные риски, меры человеческого надзора и что произойдет, если риски материализуются, а пользователь, внедряющий систему, уведомляет орган по надзору за рынком. Он дополняет, а не заменяет оценку воздействия на защиту данных в соответствии с GDPR. Распространенным заблуждением является то, что AIA представляет собой единоразовую форму соответствия. Его ценность заключается в изменении проектных решений и в возможности его пересмотра при изменении системы, данных или контекста.
Канадский федеральный департамент, планирующий использовать модель для сортировки заявлений на получение визы, заполняет правительственную онлайн-анкету AIA, получает уровень воздействия, а затем должен организовать экспертную оценку и участие людей в окончательных решениях, как того требует этот уровень.
Региональный банк в ЕС, внедряющий систему кредитного скоринга высокого риска, готовит оценку воздействия на фундаментальные права, описывая затронутые группы заявителей, риски дискриминации, механизмы человеческого надзора и способы рассмотрения жалоб.
Городское жилищное агентство, рассматривающее возможность использования инструмента оценки рисков арендаторов, проводит общественные консультации в рамках своей оценки и решает отказаться от истории выселений в качестве исходных данных после того, как защитники показывают, что он отслеживает прошлую дискриминацию.
Больница, внедрившая модель оповещения о сепсисе, обновляет свою оценку воздействия после года использования, добавляя мониторинг частоты ложных тревог в отделениях и группах пациентов.
Оценка воздействия становится стандартной частью управления ИИ, а не дополнительным этическим упражнением. Поскольку обязательства Закона ЕС об искусственном интеллекте вступают в силу для систем высокого риска, организациям потребуются повторяемые шаблоны, а регулирующие органы могут опубликовать дополнительные рекомендации о том, что содержит достаточный FRIA. Такие стандарты, как ISO/IEC 42005, могут помочь унифицировать практику в разных странах. Открытыми вопросами являются качество и независимость: оценки, написанные той же командой, которая хочет развернуть систему, могут стать галочкой. Публикация оценок, содержательные общественные консультации и внешний обзор являются механизмами, которые, скорее всего, сохранят их честность, но пока неясно, насколько широко они будут приняты.
Бесплатная рассылка
Три проверенных AI-истории каждое утро буднего дня, написанные простым английским. Бесплатно навсегда, без рекламы.
Одно электронное письмо каждый будний день. Отписаться в один клик. Мы никогда не продаем и не передаем ваш адрес.
Проверьте себя
Мгновенная обратная связь по каждому ответу и общий сертификат с проверяемым идентификатором после прохождения курса.
Поддержите бесплатное образование в области искусственного интеллекта. AI Understanding — это некоммерческая организация 501(c)(3). Никакой рекламы и платного доступа. Сделать пожертвование
Алгоритмическая оценка воздействия (AIA) — это структурированный анализ, проводимый до и во время развертывания, который определяет, на кого может повлиять автоматизированная система или система искусственного интеллекта, какой вред она может причинить и какие меры защиты помогут их уменьшить. Это важно, поскольку заставляет организации заранее документировать риски и решения, а такие правила, как Директива Канады об автоматизированном принятии решений и Закон ЕС об искусственном интеллекте, теперь требуют их версий.
AIA – это структурированный обзор пострадавших людей, прогнозируемого вреда и мер по смягчению последствий, который проводится заранее и пересматривается с течением времени.
AIA заимствуют результаты оценок воздействия на окружающую среду и конфиденциальность: предвидят последствия, документируют их и берут на себя обязательства по смягчению последствий.
Оценка помещает систему в один из четырех уровней воздействия, каждый из которых имеет такие требования, как экспертная оценка, уведомление и вмешательство человека.
Заполненные канадские AIA публикуются на портале открытых правительственных данных, что обеспечивает прозрачность.
Статья 27 Закона об искусственном интеллекте охватывает FRIA для некоторых пользователей систем высокого риска.
Продолжайте учиться
Другие руководства, выбранные по этой теме
ДалееСледующее руководство
Оценка воздействия на основные права согласно статье 27
Общество