ДалееСледующее руководство
Распознавание выражений лица и его ограничения
Визуальный ИИ
Визуальное руководство по искусственному интеллекту
Мода против слежки использует макияж, одежду, аксессуары или узоры, предназначенные для вмешательства в работу определенных систем компьютерного зрения.
Прослушайте это руководствоОзвучено ИИ · ~3 min
Некоторые исследовательские и художественные проекты продемонстрировали воздействие на определенные детекторы или модели распознавания в условиях испытаний. Производительность зависит от алгоритма, камеры, угла обзора, освещения, расстояния и обновления модели, поэтому эти методы не являются надежной защитой от современного наблюдения.
Мода против слежки — это область дизайна и исследований, изучающая, как одежда, макияж, аксессуары или узоры взаимодействуют с системами компьютерного зрения. Он варьируется от художественного протеста до лабораторных демонстраций состязательных примеров. Технология может повлиять на детектор лиц — систему, которая распознает лица — или на систему распознавания лиц, которая сравнивает обнаруженное лицо с сохраненными изображениями. Это разные стадии и могут иметь разные уязвимости. Проект Адама Харви CV Dazzle начался в 2010 году как доказательство концепции детектора лиц Виолы-Джонса. На текущей странице проекта Харви говорится, что его первоначальные шаблоны были разработаны для этого детектора и больше не выглядят надежными, поскольку алгоритм стал устаревшим в настройках безопасности. В другом исследовании оправы или нашивки для очков проверялись на соответствие конкретным моделям распознавания. Такие демонстрации показывают, что входные данные физического мира могут изменять выходные данные в контролируемых условиях; они не устанавливают всеобщего или постоянного уклонения от уплаты налогов. Реальная производительность зависит от сенсора камеры, разрешения изображения, расстояния, освещенности, угла обзора, движения головы, версии алгоритма, а также от того, использует ли система видимый или инфракрасный свет. Шаблон, который снижает уровень обнаружения одной моделью, может не оказать никакого влияния на другую. Это также может ухудшить видимость человека или привлечь внимание. Распознавание лиц можно комбинировать с другими источниками, такими как записи учетных записей, идентификаторы устройств или наблюдения людей, поэтому изменение изображения лица не стирает другие следы. Вмешательства, основанные на моде, лучше всего понимать как ограниченные, зависящие от контекста инструменты и формы выражения, а не как надежные гарантии безопасности или конфиденциальности. Люди, рассматривающие их, должны понимать местные законы, правила на рабочем месте или месте, а также риски личной безопасности. Исследователи должны описывать тестируемую систему и среду, сообщать о частоте отказов и избегать намеков на то, что продукт делает кого-то неидентифицируемым. Структурные гарантии, такие как ограничения на сбор, хранение, доступ и развертывание данных, остаются более надежными средствами контроля конфиденциальности.
В проекте Адама Харви CV Dazzle использовались макияж и прически, чтобы выявить слабые места детектора лиц Виолы-Джонса, использовавшегося в то время.
Исследовательская группа тестирует состязательный рисунок очков на определенных системах распознавания лиц в лаборатории; результаты не обеспечивают надежную защиту в общественных местах.
Аксессуары, отражающие инфракрасное излучение, могут влиять на камеры с особым инфракрасным освещением, но не обязательно будут работать с обычными системами видимого света.
Владелец воспринимает враждебную одежду как протест или ограниченный эксперимент, осознавая при этом, что камеры, люди-операторы или другие датчики все равно могут ее идентифицировать.
Аппаратное обеспечение камеры, конвейеры изображений и модели распознавания меняются, поэтому результаты, полученные от более старого детектора, могут больше не применяться. Создатель CVDazzle говорит, что оригинальные образцы макияжа были нацелены на Виолу-Джонс и ненадежны против существующих систем распознавания лиц. Другие исследования проверяют различные атаки и системы; их результаты остаются ограниченными этими экспериментами. Будущие статьи должны идентифицировать систему и условия, а не описывать универсальную маскировку. Государственные учреждения и предприятия могут снизить риск более напрямую, ограничив время сбора данных о лицах, тех, кто может получить к ним доступ и как долго они хранятся. Никогда не представляйте модную технику как гарантию анонимности или безопасности.
Бесплатная рассылка
Три проверенных AI-истории каждое утро буднего дня, написанные простым английским. Бесплатно навсегда, без рекламы.
Одно электронное письмо каждый будний день. Отписаться в один клик. Мы никогда не продаем и не передаем ваш адрес.
Проверьте себя
Мгновенная обратная связь по каждому ответу и общий сертификат с проверяемым идентификатором после прохождения курса.
Поддержите бесплатное образование в области искусственного интеллекта. AI Understanding — это некоммерческая организация 501(c)(3). Никакой рекламы и платного доступа. Сделать пожертвование
Мода против слежки использует макияж, одежду, аксессуары или узоры, предназначенные для вмешательства в работу определенных систем компьютерного зрения. Некоторые исследовательские и художественные проекты продемонстрировали воздействие на определенные детекторы или модели распознавания в условиях испытаний. Производительность зависит от алгоритма, камеры, угла обзора, освещения, расстояния и обновления модели, поэтому эти методы не являются надежной защитой от современного наблюдения.
В исследовании использовались распечатанные оправы для очков в сравнении с указанными системами распознавания; он не обеспечивает надежного уклонения от камер.
Эффекты различаются в зависимости от алгоритма, датчика, освещения, расстояния, угла и версии модели.
Руководство отличает обнаружение лица от сравнения его с сохраненными личностями.
В ходе исследования определенные закономерности сравнивались с конкретными моделями; он не продемонстрировал универсальной защиты.
Создатель проекта отмечает, что первоначальные конструкции были ориентированы на старый детектор и больше не выглядят надежными.
Продолжайте учиться
Другие руководства, выбранные по этой теме
ДалееСледующее руководство
Распознавание выражений лица и его ограничения
Визуальный ИИ