РУКОВОДСТВО ПО ОБЩЕСТВУ

Clearview AI и случаи конфиденциальности в области распознавания лиц

Clearview AI — американская компания по распознаванию лиц, которая создала поисковую систему по лицам, скопировав миллиарды фотографий из социальных сетей и других общедоступных веб-сайтов, а затем продала доступ в основном полиции и правительственным учреждениям.

  • 4 минуты чтения
  • Последнее обновление
На этой странице4 минуты чтения
  1. Обзор
  2. Глубокое погружение
  3. Стратегическое воздействие
  4. Будущее Clearview AI и случаев конфиденциальности в области распознавания лиц
  5. Реальная реализация
  6. Риски и ограничения
  7. Дорожная карта реализации
  8. Продолжайте исследовать
  9. Часто задаваемые вопросы

Обзор

Его судебные дела имеют большое значение, поскольку регулирующие органы и суды на нескольких континентах пришли к выводу, что публичное использование фотографии не делает ее биометрические данные бесплатными для сбора. Это послужило образцом того, как закон о конфиденциальности применяется к данным обучения ИИ.

Глубокое погружение

Clearview AI был соучредителем Хоана Тон-Тата. Оно привлекло широкое внимание общественности в январе 2020 года, когда The New York Times сообщила, что сотни правоохранительных органов незаметно используют его приложение. Система сканирует такие веб-сайты, как социальные сети, новостные сайты и страницы с фотографиями. Он загружает изображения, содержащие лица, и преобразует каждое лицо в числовой шаблон. Пользователь загружает пробную фотографию, и система возвращает соответствующие изображения вместе со ссылками, по которым они были найдены. Компания заявила, что ее база данных содержит десятки миллиардов изображений. Юридическая реакция последовала быстро. В США ACLU подал иск в соответствии с Законом штата Иллинойс о конфиденциальности биометрической информации (BIPA), который требует информированного письменного согласия, прежде чем компания начнет собирать биометрические идентификаторы. Мировое соглашение 2022 года навсегда запретило Clearview продавать доступ к своей базе данных отпечатков лиц большинству частных компаний по всей стране. Он также запретил продажи государственным учреждениям штата Иллинойс, включая полицию, на пять лет. Отдельный групповой иск потребителей был урегулирован на необычных условиях: члены группы получили долю в будущей стоимости компании вместо наличных денег вперед, поскольку Clearview заявила, что не может выплатить крупную сумму. В 2022 году органы по защите данных Италии, Греции и Франции оштрафовали Clearview на 20 миллионов евро каждый и обязали компанию прекратить обработку данных жителей и удалить их. Позже голландские власти наложили штраф в размере более 30 миллионов евро. Регулятор Великобритании также наложил штраф, который Clearview оспорила по юрисдикционным основаниям. Регуляторы конфиденциальности в Канаде и Австралии признали сбор данных незаконным. Распространенное заблуждение состоит в том, что публичные фотографии — это честная игра. Регулирующие органы постановили, что отпечатки лиц — это биометрические данные, и что публикация фотографии не означает согласия на ее превращение в идентификатор, доступный для поиска. Второе заблуждение заключается в том, что штрафы останавливают бизнес. Clearview оспаривает европейскую юрисдикцию и по-прежнему обслуживает государственных клиентов в других странах.

Стратегическое воздействие

Риски и безопасность

Катастрофический и повседневный вред ИИ зависит от того, кто понимает риски и может действовать.

Более четкие решения

Общественная и профессиональная грамотность определяет, возможна ли с политической точки зрения сильная политика безопасности.

Пробивая шумиху

Четкие объяснения уменьшают влияние шумихи, лабораторного пиара и расплывчатого этического театра.

Будущее Clearview AI и случаев конфиденциальности в области распознавания лиц

Дела Clearview сделали сбор биометрических данных одной из самых четких красных линий в законодательстве о конфиденциальности. Закон ЕС об искусственном интеллекте запрещает создание баз данных для распознавания лиц путем нецелевого извлечения изображений лиц из Интернета или записей с камер видеонаблюдения. В нескольких штатах США обсуждались законы о биометрической конфиденциальности, аналогичные BIPA. Открытые вопросы остаются. Неясно, как регулирующие органы могут применять меры против компаний, не присутствующих на местном уровне, как суды будут относиться к очистке данных для общего обучения ИИ и будет ли использование полицией досмотра по лицам регулироваться специальными законами или будет оставлено на усмотрение решений о закупках. Прежде чем появится единое устоявшееся правило, вероятно, возникнут новые судебные разбирательства.

Реальная реализация

Полицейский следователь загружает кадр с камеры видеонаблюдения магазина и получает обратные ссылки на страницы в социальных сетях, на которых изображены похожие лица. Эти версии еще предстоит сверить с другими доказательствами, прежде чем кого-либо можно будет считать подозреваемым.

Житель Иллинойса, чьи общедоступные фотографии Instagram были удалены, может подать иск в соответствии с BIPA, поскольку Иллинойс требует письменного согласия, прежде чем компания соберет отпечаток лица человека.

Житель Европы подает запрос на доступ к данным в соответствии с GDPR, находит свои изображения в базе данных Clearview и использует результат для подачи жалобы в свой национальный орган по защите данных, как это сделали несколько заявителей.

Стартап в области искусственного интеллекта, который планирует собирать общедоступные фотографии профиля для обучения модели лица, теперь должен проверять законы о согласии на биометрические данные, свою правовую основу в соответствии с GDPR и условиями платформ, в основном из-за постановлений Clearview.

Риски и ограничения

  • Относитесь к экзистенциальному риску как к научной фантастике, в то время как возможности растут.

  • Сбивает с толку безопасность поверхности продукта и выравнивание при высокой автономности.

  • Оставляя неанглоязычную и неспециалистскую аудиторию только с некачественными источниками.

Дорожная карта реализации

  1. Отдельные риски повреждения продукта, неправильного использования и потери контроля/перекоса.

  2. Спросите, какие доказательства могут изменить ваше мнение о сроках и серьезности.

  3. Предпочитайте первоисточники и конкретные оценки маркетинговым заявлениям.

  4. Определите один путь действий: карьера, политика, финансирование или навыки, а не только осведомленность.

Продолжайте исследовать

Free newsletter

Get the daily AI briefing

Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.

One email each weekday. Unsubscribe in one click. We never sell or share your address.

Test yourself

Take the Clearview AI and Facial Recognition Privacy Cases quiz

Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.

Начать тест

Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation

Часто задаваемые вопросы

Что такое Clearview AI и случаи конфиденциальности в области распознавания лиц?

Clearview AI — американская компания по распознаванию лиц, которая создала поисковую систему по лицам, скопировав миллиарды фотографий из социальных сетей и других общедоступных веб-сайтов, а затем продала доступ в основном полиции и правительственным учреждениям. Его судебные дела имеют большое значение, поскольку регулирующие органы и суды на нескольких континентах пришли к выводу, что публичное использование фотографии не делает ее биометрические данные бесплатными для сбора. Это послужило образцом того, как закон о конфиденциальности применяется к данным обучения ИИ.

Что требует Закон штата Иллинойс о конфиденциальности биометрической информации (BIPA), прежде чем компания начнет собирать биометрические идентификаторы?

BIPA требует информированного письменного согласия перед сбором биометрических идентификаторов, таких как отпечатки лиц. Это требование легло в основу иска ACLU против Clearview, которая царапала лица, никого не спрашивая.

Что соглашение ACLU 2022 года навсегда запретило Clearview делать?

Постоянное ограничение распространялось на продажи большинству частных компаний в США. Отдельное пятилетнее ограничение распространяется на государственные учреждения штата Иллинойс, включая полицию.

Какие три европейских органа по защите данных оштрафовали Clearview на 20 миллионов евро каждый в 2022 году?

В 2022 году Италия, Греция и Франция наложили штрафы на сумму по 20 миллионов евро каждая. Позднее власти Нидерландов наложили собственный штраф на сумму более 30 миллионов евро.

Почему размер галереи лиц влияет на ложные совпадения в такой системе, как Clearview?

Поиск сравнивает зонд с каждой записью. С миллиардами лиц у кого-то, кто не является человеком, больше шансов выглядеть достаточно похожим, чтобы получить высокий рейтинг.

Что на самом деле возвращает запрос в стиле Clearview?

Система возвращает кандидатов с рейтингом сходства и их исходные ссылки. Это следственные версии, которые нуждаются в независимой проверке, а не в окончательной идентификации.