ДалееСледующее руководство
Гендерные оттенки и аудит предвзятости распознавания лиц
Общество
РУКОВОДСТВО ПО ОБЩЕСТВУ
Clearview AI — американская компания по распознаванию лиц, которая создала поисковую систему по лицам, скопировав миллиарды фотографий из социальных сетей и других общедоступных веб-сайтов, а затем продала доступ в основном полиции и правительственным учреждениям.
Его судебные дела имеют большое значение, поскольку регулирующие органы и суды на нескольких континентах пришли к выводу, что публичное использование фотографии не делает ее биометрические данные бесплатными для сбора. Это послужило образцом того, как закон о конфиденциальности применяется к данным обучения ИИ.
Clearview AI был соучредителем Хоана Тон-Тата. Оно привлекло широкое внимание общественности в январе 2020 года, когда The New York Times сообщила, что сотни правоохранительных органов незаметно используют его приложение. Система сканирует такие веб-сайты, как социальные сети, новостные сайты и страницы с фотографиями. Он загружает изображения, содержащие лица, и преобразует каждое лицо в числовой шаблон. Пользователь загружает пробную фотографию, и система возвращает соответствующие изображения вместе со ссылками, по которым они были найдены. Компания заявила, что ее база данных содержит десятки миллиардов изображений. Юридическая реакция последовала быстро. В США ACLU подал иск в соответствии с Законом штата Иллинойс о конфиденциальности биометрической информации (BIPA), который требует информированного письменного согласия, прежде чем компания начнет собирать биометрические идентификаторы. Мировое соглашение 2022 года навсегда запретило Clearview продавать доступ к своей базе данных отпечатков лиц большинству частных компаний по всей стране. Он также запретил продажи государственным учреждениям штата Иллинойс, включая полицию, на пять лет. Отдельный групповой иск потребителей был урегулирован на необычных условиях: члены группы получили долю в будущей стоимости компании вместо наличных денег вперед, поскольку Clearview заявила, что не может выплатить крупную сумму. В 2022 году органы по защите данных Италии, Греции и Франции оштрафовали Clearview на 20 миллионов евро каждый и обязали компанию прекратить обработку данных жителей и удалить их. Позже голландские власти наложили штраф в размере более 30 миллионов евро. Регулятор Великобритании также наложил штраф, который Clearview оспорила по юрисдикционным основаниям. Регуляторы конфиденциальности в Канаде и Австралии признали сбор данных незаконным. Распространенное заблуждение состоит в том, что публичные фотографии — это честная игра. Регулирующие органы постановили, что отпечатки лиц — это биометрические данные, и что публикация фотографии не означает согласия на ее превращение в идентификатор, доступный для поиска. Второе заблуждение заключается в том, что штрафы останавливают бизнес. Clearview оспаривает европейскую юрисдикцию и по-прежнему обслуживает государственных клиентов в других странах.
Катастрофический и повседневный вред ИИ зависит от того, кто понимает риски и может действовать.
Общественная и профессиональная грамотность определяет, возможна ли с политической точки зрения сильная политика безопасности.
Четкие объяснения уменьшают влияние шумихи, лабораторного пиара и расплывчатого этического театра.
Дела Clearview сделали сбор биометрических данных одной из самых четких красных линий в законодательстве о конфиденциальности. Закон ЕС об искусственном интеллекте запрещает создание баз данных для распознавания лиц путем нецелевого извлечения изображений лиц из Интернета или записей с камер видеонаблюдения. В нескольких штатах США обсуждались законы о биометрической конфиденциальности, аналогичные BIPA. Открытые вопросы остаются. Неясно, как регулирующие органы могут применять меры против компаний, не присутствующих на местном уровне, как суды будут относиться к очистке данных для общего обучения ИИ и будет ли использование полицией досмотра по лицам регулироваться специальными законами или будет оставлено на усмотрение решений о закупках. Прежде чем появится единое устоявшееся правило, вероятно, возникнут новые судебные разбирательства.
Полицейский следователь загружает кадр с камеры видеонаблюдения магазина и получает обратные ссылки на страницы в социальных сетях, на которых изображены похожие лица. Эти версии еще предстоит сверить с другими доказательствами, прежде чем кого-либо можно будет считать подозреваемым.
Житель Иллинойса, чьи общедоступные фотографии Instagram были удалены, может подать иск в соответствии с BIPA, поскольку Иллинойс требует письменного согласия, прежде чем компания соберет отпечаток лица человека.
Житель Европы подает запрос на доступ к данным в соответствии с GDPR, находит свои изображения в базе данных Clearview и использует результат для подачи жалобы в свой национальный орган по защите данных, как это сделали несколько заявителей.
Стартап в области искусственного интеллекта, который планирует собирать общедоступные фотографии профиля для обучения модели лица, теперь должен проверять законы о согласии на биометрические данные, свою правовую основу в соответствии с GDPR и условиями платформ, в основном из-за постановлений Clearview.
Относитесь к экзистенциальному риску как к научной фантастике, в то время как возможности растут.
Сбивает с толку безопасность поверхности продукта и выравнивание при высокой автономности.
Оставляя неанглоязычную и неспециалистскую аудиторию только с некачественными источниками.
Отдельные риски повреждения продукта, неправильного использования и потери контроля/перекоса.
Спросите, какие доказательства могут изменить ваше мнение о сроках и серьезности.
Предпочитайте первоисточники и конкретные оценки маркетинговым заявлениям.
Определите один путь действий: карьера, политика, финансирование или навыки, а не только осведомленность.
Free newsletter
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Clearview AI — американская компания по распознаванию лиц, которая создала поисковую систему по лицам, скопировав миллиарды фотографий из социальных сетей и других общедоступных веб-сайтов, а затем продала доступ в основном полиции и правительственным учреждениям. Его судебные дела имеют большое значение, поскольку регулирующие органы и суды на нескольких континентах пришли к выводу, что публичное использование фотографии не делает ее биометрические данные бесплатными для сбора. Это послужило образцом того, как закон о конфиденциальности применяется к данным обучения ИИ.
BIPA требует информированного письменного согласия перед сбором биометрических идентификаторов, таких как отпечатки лиц. Это требование легло в основу иска ACLU против Clearview, которая царапала лица, никого не спрашивая.
Постоянное ограничение распространялось на продажи большинству частных компаний в США. Отдельное пятилетнее ограничение распространяется на государственные учреждения штата Иллинойс, включая полицию.
В 2022 году Италия, Греция и Франция наложили штрафы на сумму по 20 миллионов евро каждая. Позднее власти Нидерландов наложили собственный штраф на сумму более 30 миллионов евро.
Поиск сравнивает зонд с каждой записью. С миллиардами лиц у кого-то, кто не является человеком, больше шансов выглядеть достаточно похожим, чтобы получить высокий рейтинг.
Система возвращает кандидатов с рейтингом сходства и их исходные ссылки. Это следственные версии, которые нуждаются в независимой проверке, а не в окончательной идентификации.
Продолжайте учиться
Другие руководства, выбранные по этой теме
ДалееСледующее руководство
Гендерные оттенки и аудит предвзятости распознавания лиц
Общество