PRŮVODCE společností

Případy ochrany osobních údajů Clearview AI a Facial Recognition

Clearview AI je americká společnost zabývající se rozpoznáváním obličejů, která vytvořila vyhledávač tváří seškrábáním miliard fotek ze sociálních médií a dalších veřejných webů, poté prodala přístup hlavně policii a vládním agenturám.

Poslechněte si tento návodAI-vyprávěný · ~3 min

Na této stránce4 min čtení
  1. Přehled
  2. Hluboký ponor
  3. Real-World Implementace
  4. Budoucnost případů Clearview AI a Facial Recognition
  5. Uvedení do praxe
  6. Pokračujte v objevování
  7. Často kladené otázky

Přehled

Její právní případy jsou důležité, protože regulační orgány a soudy na několika kontinentech dospěly k závěru, že veřejně viditelná fotografie neumožňuje shromažďovat její biometrické údaje. To nastavilo šablonu, jak se zákon o ochraně soukromí vztahuje na tréninková data AI.

Hluboký ponor

Clearview AI byl spoluzakladatelem Hoan Ton-That. V lednu 2020 přitáhl širokou pozornost veřejnosti, když The New York Times uvedl, že stovky donucovacích orgánů v tichosti používají její aplikaci. Systém prochází webové stránky, jako jsou sociální sítě, zpravodajské stránky a stránky s fotografiemi. Stahuje obrázky, které obsahují tváře, a převádí každou tvář do číselné šablony. Uživatel nahraje fotografii sondy a systém vrátí odpovídající obrázky spolu s odkazy, kde byly nalezeny. Společnost uvedla, že její databáze obsahuje desítky miliard obrázků. Právní reakce přišla rychle. Ve Spojených státech ACLU žalovala podle zákona Illinois Biometric Information Privacy Act (BIPA), který vyžaduje informovaný písemný souhlas předtím, než společnost shromažďuje biometrické identifikátory. Vyrovnání z roku 2022 trvale zakázalo společnosti Clearview prodávat přístup ke své databázi faceprint většině soukromých společností po celé zemi. Na pět let také zakázal prodej veřejným agenturám státu Illinois, včetně policie. Samostatná skupinová žaloba spotřebitelů se vyřešila za neobvyklých podmínek: členové třídy dostali podíl z budoucí hodnoty společnosti místo hotovosti předem, protože společnost Clearview uvedla, že nemůže zaplatit vysokou částku. V roce 2022 udělily orgány na ochranu údajů v Itálii, Řecku a Francii společnosti Clearview pokutu 20 milionů eur a nařídily jí, aby přestala zpracovávat údaje obyvatel a vymazala je. Nizozemský úřad později uložil pokutu více než 30 milionů eur. Britský regulátor také udělil pokutu, kterou Clearview napadla z jurisdikčních důvodů. Regulátoři ochrany osobních údajů v Kanadě a Austrálii shledali jeho shromažďování nezákonným. Obvyklá mylná představa je, že veřejné fotografie jsou férová hra. Regulátoři zastávali názor, že otisky obličejů jsou biometrická data a že zveřejnění fotografie neznamená souhlas s tím, aby se z ní stal prohledávatelný identifikátor. Druhou mylnou představou je, že pokuty zastavily podnikání. Společnost Clearview zpochybnila evropskou jurisdikci a stále slouží vládním zákazníkům jinde.

Real-World Implementace

Policejní vyšetřovatel nahraje fotografii z bezpečnostní kamery v obchodě a získá zpět odkazy na stránky sociálních sítí zobrazující podobně vypadající tváře. Tyto stopy musí být ještě porovnány s jinými důkazy, než může být někdo považován za podezřelého.

Rezident Illinois, jehož veřejné fotografie Instagram byly seškrábány, by mohl mít nárok podle BIPA, protože Illinois vyžaduje písemný souhlas předtím, než společnost shromáždí otisk obličeje.

Evropský rezident podá žádost o přístup k údajům podle GDPR, najde své snímky v databázi společnosti Clearview a použije výsledek ke stížnosti u svého vnitrostátního úřadu pro ochranu údajů, jak to udělalo několik stěžovatelů.

Startup s umělou inteligencí, který plánuje seškrábat veřejné profilové obrázky, aby trénoval model obličeje, nyní musí zkontrolovat zákony o biometrickém souhlasu, jeho zákonný základ podle GDPR a podmínky platforem, a to především kvůli rozsudkům společnosti Clearview.

Budoucnost případů Clearview AI a Facial Recognition

Případy Clearview udělaly z biometrického škrábání jednu z nejjasnějších červených čar v zákoně o ochraně soukromí. Zákon EU o umělé inteligenci zakazuje vytváření databází pro rozpoznávání obličejů prostřednictvím necíleného seškrabávání obrázků obličeje z internetu nebo záběrů CCTV. Několik států USA diskutovalo o biometrických zákonech na ochranu soukromí podobných BIPA. Otevřené otázky zůstávají. Není jasné, jak mohou regulační orgány vymáhat práva vůči společnostem bez místní přítomnosti, jak budou soudy zacházet se seškrabáváním pro všeobecný výcvik AI a zda se policejní použití prohledávání obličeje bude řídit vyhrazenými zákony nebo bude ponecháno na rozhodnutí o nákupu. Než se objeví jediné ustálené pravidlo, pravděpodobně dojde k dalším soudním sporům.

Uvedení do praxe

Proč na tom záleží

  • Riziko a bezpečnost. Katastrofické a každodenní škody AI závisí na tom, kdo rozumí rizikům a kdo může jednat.
  • Jasnější rozhodnutí. Veřejná a odborná gramotnost určuje, zda je silná bezpečnostní politika politicky možná.
  • Prorážením humbuku. Jasná vysvětlení snižují zachytávání humbukem, PR v laboratoři a vágní etické divadlo.

Pozor na

  • Zacházení s existenčním rizikem jako sci-fi, zatímco schopnosti kombinují.
  • Matoucí bezpečnost povrchových produktů se zarovnáním pod vysokou autonomií.
  • Neanglické a neodborné publikum ponechává pouze nekvalitní zdroje.

Další kroky

  1. Oddělte rizika poškození produktu, nesprávného použití a ztráty kontroly/nesouladu.
  2. Zeptejte se, jaké důkazy by změnily váš pohled na časové osy a závažnost.
  3. Upřednostňujte primární zdroje a konkrétní hodnocení před marketingovými tvrzeními.
  4. Identifikujte jednu akční cestu: kariéru, politiku, financování nebo dovednosti – nejen povědomí.

Pokračujte v objevování

Newsletter zdarma

Získejte denní přehled o AI

Tři ověřené příběhy ze světa AI každý všední den ráno, psané srozumitelnou angličtinou. Navždy zdarma, bez reklam.

Jeden e-mail každý všední den. Odhlásit se můžete jedním kliknutím. Vaši adresu nikdy neprodáváme ani nesdílíme.

Otestujte se

Take the Clearview AI and Facial Recognition Privacy Cases quiz

Okamžitá zpětná vazba ke každé odpovědi a sdílitelný certifikát s ověřitelným ID po absolvování kurzu.

Spustit kvíz

Podpořte bezplatnou AI vzdělávání. AI Understanding je nezisková organizace 501(c)(3) — žádné reklamy, žádná platba za přístup, nikdy. Darujte

Často kladené otázky

Co jsou případy ochrany osobních údajů Clearview AI a Facial Recognition?

Clearview AI je americká společnost zabývající se rozpoznáváním obličejů, která vytvořila vyhledávač tváří seškrábáním miliard fotek ze sociálních médií a dalších veřejných webů, poté prodala přístup hlavně policii a vládním agenturám. Její právní případy jsou důležité, protože regulační orgány a soudy na několika kontinentech dospěly k závěru, že veřejně viditelná fotografie neumožňuje shromažďovat její biometrické údaje. To nastavilo šablonu, jak se zákon o ochraně soukromí vztahuje na tréninková data AI.

Co vyžaduje zákon Illinois Biometric Information Privacy Act (BIPA), než společnost shromažďuje biometrické identifikátory?

BIPA vyžaduje informovaný písemný souhlas před shromažďováním biometrických identifikátorů, jako jsou otisky obličeje. Tento požadavek byl základem žaloby ACLU proti Clearview, která oškrábala obličeje, aniž by se kohokoli zeptala.

Co vyrovnání ACLU z roku 2022 trvale zakázalo Clearview dělat?

Trvalé omezení se týkalo prodeje většině soukromých společností po celých USA. Samostatné pětileté omezení se týkalo veřejných agentur státu Illinois, včetně policie.

Které tři evropské úřady na ochranu údajů udělily společnosti Clearview v roce 2022 pokutu 20 milionů eur?

Itálie, Řecko a Francie udělily v roce 2022 pokuty ve výši 20 milionů eur. Nizozemský úřad později udělil vlastní pokutu ve výši více než 30 milionů eur.

Proč velikost galerie obličejů ovlivňuje falešné shody v systému, jako je Clearview?

Vyhledávání porovnává sondu s každým záznamem. S miliardami tváří existuje více šancí, že někdo, kdo není tou osobou, bude vypadat dostatečně podobně, aby se umístil vysoko.

Co vlastně vrací dotaz ve stylu Clearview?

Systém vrátí kandidáty seřazené podle podobnosti a jejich zdrojové odkazy. Jsou to vyšetřovací stopy, které vyžadují nezávislé ověření, nikoli definitivní identifikaci.