ДаліНаступний посібник
Аудити відтінків статі та упередженості розпізнавання обличчя
суспільство
Суспільство GUIDE
Кейси конфіденційності Clearview AI і Facial Recognition
Clearview AI – американська компанія з розпізнавання облич, яка створила пошукову систему для облич, збираючи мільярди фотографій із соціальних мереж та інших загальнодоступних веб-сайтів, а потім продала доступ переважно поліції та державним установам.
На цій сторінці4 хвилини читання
Огляд
Його юридичні справи мають значення, оскільки регулятори та суди на кількох континентах дійшли висновку, що публічна фотографія не дає можливості збирати її біометричні дані. Це встановило шаблон для того, як закон про конфіденційність застосовується до навчальних даних ШІ.
Глибоке занурення
Співзасновником Clearview AI був Хоан Тон-Тат. Він привернув широку увагу громадськості в січні 2020 року, коли The New York Times повідомила, що сотні правоохоронних органів тихо використовують його додаток. Система сканує веб-сайти, такі як соціальні мережі, сайти новин і сторінки з фотографіями. Він завантажує зображення, які містять обличчя, і перетворює кожне обличчя на числовий шаблон. Користувач завантажує фото зонда, і система повертає відповідні зображення разом із посиланнями, де вони були знайдені. Компанія заявила, що її база даних містить десятки мільярдів зображень. Правова реакція прийшла швидко. У Сполучених Штатах ACLU подав до суду відповідно до Закону штату Іллінойс про конфіденційність біометричної інформації (BIPA), який вимагає інформованої письмової згоди, перш ніж компанія збирає біометричні ідентифікатори. Угода 2022 року назавжди заборонила Clearview продавати доступ до своєї бази даних відбитків обличчя більшості приватних компаній по всій країні. Він також заборонив продаж державним установам штату Іллінойс, включаючи поліцію, протягом п'яти років. Окремий груповий позов споживачів було вирішено на незвичайних умовах: члени групи отримали частку майбутньої вартості компанії замість готівки, оскільки Clearview заявив, що не може заплатити велику суму. У 2022 році органи із захисту даних Італії, Греції та Франції оштрафували Clearview на 20 мільйонів євро та зобов’язали її припинити обробку даних мешканців і видалити їх. Пізніше влада Нідерландів наклала штраф у розмірі понад 30 мільйонів євро. Регулятор Великобританії також наклав штраф, який Clearview оскаржив на підставі юрисдикції. Регулятори конфіденційності в Канаді та Австралії визнали його збір незаконним. Поширеною помилкою є те, що публічні фотографії — це чесна гра. Регулятори вважають, що відбитки обличчя є біометричними даними, і що публікація фотографії не означає згоду на те, щоб її перетворили на ідентифікатор для пошуку. Друга помилка полягає в тому, що штрафи зупиняють бізнес. Clearview заперечує європейську юрисдикцію та все ще обслуговує державних клієнтів в інших країнах.
Стратегічний вплив
Ризики та безпека
Катастрофічні та щоденні збитки ШІ залежать від того, хто розуміє ризики та хто може діяти.
Чіткіші рішення
Громадська та професійна грамотність визначає, чи політично можлива сильна політика безпеки.
Прорізаючи ажіотаж
Чіткі пояснення зменшують захоплення ажіотажем, лабораторним піаром і нечітким етичним театром.
Майбутнє Clearview AI і випадків конфіденційності розпізнавання облич
Справи Clearview зробили біометричне сканування однією з найчіткіших червоних ліній у законодавстві про конфіденційність. Закон ЄС про штучний інтелект забороняє створювати бази даних розпізнавання облич шляхом нецільового збирання зображень облич з Інтернету або записів камер відеоспостереження. Кілька штатів США обговорювали закони про біометричну конфіденційність, подібні до BIPA. Залишаються відкриті питання. Незрозуміло, як регулюючі органи можуть застосувати заходи до компаній, які не присутні на місцевому рівні, як суди розглядатимуть скачування для загального навчання штучному інтелекту та чи регулюватиметься поліція використанням пошуку обличчя спеціальними статутами чи рішенням про закупівлі. Перш ніж з’явиться єдине встановлене правило, ймовірно, буде ще більше судових процесів.
Реалізація в реальному світі
Поліцейський слідчий завантажує фото з камери відеоспостереження магазину та отримує зворотні посилання на сторінки соціальних мереж, на яких зображені схожі обличчя. Ці сліди все ще повинні бути перевірені з іншими доказами, перш ніж когось можна буде розглядати як підозрюваного.
Мешканець штату Іллінойс, чиї публічні фотографії Instagram були зіскоблені, може подати претензію згідно з BIPA, оскільки штат Іллінойс вимагає письмової згоди, перш ніж компанія збере відбиток обличчя людини.
Резидент Європи подає запит на доступ до даних відповідно до GDPR, знаходить свої зображення в базі даних Clearview і використовує результат, щоб поскаржитися в національний орган із захисту даних, як це зробили кілька скаржників.
Стартап зі штучним інтелектом, який планує отримати загальнодоступні фотографії профілю для навчання моделі обличчя, тепер повинен перевірити закони про біометричну згоду, його законну основу відповідно до GDPR та умови платформ, головним чином через рішення Clearview.
Ризики та огорожі
Розгляд екзистенціального ризику як наукової фантастики, а здібності складені.
Плутання безпеки поверхні продукту з вирівнюванням за високої автономності.
Залишаючи неангломовну та неекспертну аудиторію лише низькоякісними джерелами.
Дорожня карта впровадження
Розділіть ризики шкоди продукту, неправильного використання та втрати контролю/зміщення.
Запитайте, які докази змінили б ваше уявлення про терміни та серйозність.
Віддавайте перевагу першоджерелам і конкретним оцінкам над маркетинговими заявами.
Визначте один шлях дій: кар’єра, політика, фінансування чи навички — не лише обізнаність.
Продовжуйте досліджувати
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Clearview AI and Facial Recognition Privacy Cases quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Часті запитання
Що таке випадки конфіденційності Clearview AI та Facial Recognition?
Clearview AI – американська компанія з розпізнавання облич, яка створила пошукову систему для облич, збираючи мільярди фотографій із соціальних мереж та інших загальнодоступних веб-сайтів, а потім продала доступ переважно поліції та державним установам. Його юридичні справи мають значення, оскільки регулятори та суди на кількох континентах дійшли висновку, що публічна фотографія не дає можливості збирати її біометричні дані. Це встановило шаблон для того, як закон про конфіденційність застосовується до навчальних даних ШІ.
Що вимагає Закон штату Іллінойс про конфіденційність біометричної інформації (BIPA), перш ніж компанія збере біометричні ідентифікатори?
BIPA вимагає інформованої письмової згоди перед збором біометричних ідентифікаторів, таких як відбитки обличчя. Ця вимога була основою позову ACLU проти Clearview, який нікого не питав.
Що назавжди забороняло Clearview робити угодою ACLU 2022 року?
Постійне обмеження охопило продажі більшості приватних компаній у США. Окреме п'ятирічне обмеження поширювалося на державні установи Іллінойсу, включаючи поліцію.
Які три європейські органи із захисту даних оштрафували Clearview на 20 мільйонів євро у 2022 році?
У 2022 році Італія, Греція та Франція наклали штрафи на 20 мільйонів євро кожна. Пізніше влада Нідерландів наклала власний штраф на суму понад 30 мільйонів євро.
Чому розмір галереї облич впливає на помилкові збіги в такій системі, як Clearview?
Пошук порівнює зонд із кожним записом. З мільярдами облич є більше шансів для тих, хто не є людиною, щоб виглядати настільки схожими, щоб отримати високі рейтинги.
Що насправді повертає запит у стилі Clearview?
Система повертає кандидатів, упорядкованих за схожістю, і їхні вихідні посилання. Це слідчі дані, які потребують незалежної перевірки, а не остаточної ідентифікації.
Продовжуйте вчитися
Пов'язані посібники
Інші посібники, вибрані для цієї теми