DalšíDalší průvodce
Genderové odstíny a audity zkreslení rozpoznávání obličeje
Společnost
PRŮVODCE společností
Clearview AI je americká společnost zabývající se rozpoznáváním obličejů, která vytvořila vyhledávač tváří seškrábáním miliard fotek ze sociálních médií a dalších veřejných webů, poté prodala přístup hlavně policii a vládním agenturám.
Poslechněte si tento návodAI-vyprávěný · ~3 min
Její právní případy jsou důležité, protože regulační orgány a soudy na několika kontinentech dospěly k závěru, že veřejně viditelná fotografie neumožňuje shromažďovat její biometrické údaje. To nastavilo šablonu, jak se zákon o ochraně soukromí vztahuje na tréninková data AI.
Clearview AI byl spoluzakladatelem Hoan Ton-That. V lednu 2020 přitáhl širokou pozornost veřejnosti, když The New York Times uvedl, že stovky donucovacích orgánů v tichosti používají její aplikaci. Systém prochází webové stránky, jako jsou sociální sítě, zpravodajské stránky a stránky s fotografiemi. Stahuje obrázky, které obsahují tváře, a převádí každou tvář do číselné šablony. Uživatel nahraje fotografii sondy a systém vrátí odpovídající obrázky spolu s odkazy, kde byly nalezeny. Společnost uvedla, že její databáze obsahuje desítky miliard obrázků. Právní reakce přišla rychle. Ve Spojených státech ACLU žalovala podle zákona Illinois Biometric Information Privacy Act (BIPA), který vyžaduje informovaný písemný souhlas předtím, než společnost shromažďuje biometrické identifikátory. Vyrovnání z roku 2022 trvale zakázalo společnosti Clearview prodávat přístup ke své databázi faceprint většině soukromých společností po celé zemi. Na pět let také zakázal prodej veřejným agenturám státu Illinois, včetně policie. Samostatná skupinová žaloba spotřebitelů se vyřešila za neobvyklých podmínek: členové třídy dostali podíl z budoucí hodnoty společnosti místo hotovosti předem, protože společnost Clearview uvedla, že nemůže zaplatit vysokou částku. V roce 2022 udělily orgány na ochranu údajů v Itálii, Řecku a Francii společnosti Clearview pokutu 20 milionů eur a nařídily jí, aby přestala zpracovávat údaje obyvatel a vymazala je. Nizozemský úřad později uložil pokutu více než 30 milionů eur. Britský regulátor také udělil pokutu, kterou Clearview napadla z jurisdikčních důvodů. Regulátoři ochrany osobních údajů v Kanadě a Austrálii shledali jeho shromažďování nezákonným. Obvyklá mylná představa je, že veřejné fotografie jsou férová hra. Regulátoři zastávali názor, že otisky obličejů jsou biometrická data a že zveřejnění fotografie neznamená souhlas s tím, aby se z ní stal prohledávatelný identifikátor. Druhou mylnou představou je, že pokuty zastavily podnikání. Společnost Clearview zpochybnila evropskou jurisdikci a stále slouží vládním zákazníkům jinde.
Policejní vyšetřovatel nahraje fotografii z bezpečnostní kamery v obchodě a získá zpět odkazy na stránky sociálních sítí zobrazující podobně vypadající tváře. Tyto stopy musí být ještě porovnány s jinými důkazy, než může být někdo považován za podezřelého.
Rezident Illinois, jehož veřejné fotografie Instagram byly seškrábány, by mohl mít nárok podle BIPA, protože Illinois vyžaduje písemný souhlas předtím, než společnost shromáždí otisk obličeje.
Evropský rezident podá žádost o přístup k údajům podle GDPR, najde své snímky v databázi společnosti Clearview a použije výsledek ke stížnosti u svého vnitrostátního úřadu pro ochranu údajů, jak to udělalo několik stěžovatelů.
Startup s umělou inteligencí, který plánuje seškrábat veřejné profilové obrázky, aby trénoval model obličeje, nyní musí zkontrolovat zákony o biometrickém souhlasu, jeho zákonný základ podle GDPR a podmínky platforem, a to především kvůli rozsudkům společnosti Clearview.
Případy Clearview udělaly z biometrického škrábání jednu z nejjasnějších červených čar v zákoně o ochraně soukromí. Zákon EU o umělé inteligenci zakazuje vytváření databází pro rozpoznávání obličejů prostřednictvím necíleného seškrabávání obrázků obličeje z internetu nebo záběrů CCTV. Několik států USA diskutovalo o biometrických zákonech na ochranu soukromí podobných BIPA. Otevřené otázky zůstávají. Není jasné, jak mohou regulační orgány vymáhat práva vůči společnostem bez místní přítomnosti, jak budou soudy zacházet se seškrabáváním pro všeobecný výcvik AI a zda se policejní použití prohledávání obličeje bude řídit vyhrazenými zákony nebo bude ponecháno na rozhodnutí o nákupu. Než se objeví jediné ustálené pravidlo, pravděpodobně dojde k dalším soudním sporům.
Newsletter zdarma
Tři ověřené příběhy ze světa AI každý všední den ráno, psané srozumitelnou angličtinou. Navždy zdarma, bez reklam.
Jeden e-mail každý všední den. Odhlásit se můžete jedním kliknutím. Vaši adresu nikdy neprodáváme ani nesdílíme.
Otestujte se
Okamžitá zpětná vazba ke každé odpovědi a sdílitelný certifikát s ověřitelným ID po absolvování kurzu.
Podpořte bezplatnou AI vzdělávání. AI Understanding je nezisková organizace 501(c)(3) — žádné reklamy, žádná platba za přístup, nikdy. Darujte
Clearview AI je americká společnost zabývající se rozpoznáváním obličejů, která vytvořila vyhledávač tváří seškrábáním miliard fotek ze sociálních médií a dalších veřejných webů, poté prodala přístup hlavně policii a vládním agenturám. Její právní případy jsou důležité, protože regulační orgány a soudy na několika kontinentech dospěly k závěru, že veřejně viditelná fotografie neumožňuje shromažďovat její biometrické údaje. To nastavilo šablonu, jak se zákon o ochraně soukromí vztahuje na tréninková data AI.
BIPA vyžaduje informovaný písemný souhlas před shromažďováním biometrických identifikátorů, jako jsou otisky obličeje. Tento požadavek byl základem žaloby ACLU proti Clearview, která oškrábala obličeje, aniž by se kohokoli zeptala.
Trvalé omezení se týkalo prodeje většině soukromých společností po celých USA. Samostatné pětileté omezení se týkalo veřejných agentur státu Illinois, včetně policie.
Itálie, Řecko a Francie udělily v roce 2022 pokuty ve výši 20 milionů eur. Nizozemský úřad později udělil vlastní pokutu ve výši více než 30 milionů eur.
Vyhledávání porovnává sondu s každým záznamem. S miliardami tváří existuje více šancí, že někdo, kdo není tou osobou, bude vypadat dostatečně podobně, aby se umístil vysoko.
Systém vrátí kandidáty seřazené podle podobnosti a jejich zdrojové odkazy. Jsou to vyšetřovací stopy, které vyžadují nezávislé ověření, nikoli definitivní identifikaci.
Učte se dál
Pro toto téma bylo vybráno více průvodců
DalšíDalší průvodce
Genderové odstíny a audity zkreslení rozpoznávání obličeje
Společnost