Gids voor de samenleving

Clearview AI en gezichtsherkenning privacyzaken

Clearview AI is een Amerikaans gezichtsherkenningsbedrijf dat een zoekmachine voor gezichten heeft gebouwd door miljarden foto's van sociale media en andere openbare websites te schrappen en vervolgens de toegang voornamelijk aan politie en overheidsinstanties heeft verkocht.

Luister naar deze gidsAI-verteld · ~3 min

Op deze pagina4 minuten lezen
  1. Overzicht
  2. Diepe duik
  3. Implementatie in de echte wereld
  4. De toekomst van Clearview AI en gezichtsherkenningsprivacyzaken
  5. Het in de praktijk brengen
  6. Blijf verkennen
  7. Veelgestelde vragen

Overzicht

De rechtszaken zijn van belang omdat toezichthouders en rechtbanken op verschillende continenten tot de conclusie zijn gekomen dat het feit dat een foto publiekelijk zichtbaar is, niet betekent dat de biometrische gegevens ervan gratis kunnen worden verzameld. Dat vormde een sjabloon voor hoe de privacywetgeving van toepassing is op AI-trainingsgegevens.

Diepe duik

Clearview AI is mede opgericht door Hoan Ton-That. Het trok brede publieke aandacht in januari 2020, toen The New York Times meldde dat honderden wetshandhavingsinstanties de app stilletjes gebruikten. Het systeem doorzoekt websites zoals sociale netwerken, nieuwssites en fotopagina's. Het downloadt afbeeldingen die gezichten bevatten en converteert elk gezicht naar een numerieke sjabloon. Een gebruiker uploadt een sondefoto en het systeem retourneert overeenkomende afbeeldingen samen met de links waar ze zijn gevonden. Het bedrijf heeft gezegd dat zijn database tientallen miljarden afbeeldingen bevat. Het juridische verzet kwam snel. In de Verenigde Staten heeft de ACLU een rechtszaak aangespannen op grond van de Illinois Biometric Information Privacy Act (BIPA), die geïnformeerde schriftelijke toestemming vereist voordat een bedrijf biometrische identificatiemiddelen verzamelt. De schikking uit 2022 verbood Clearview permanent om toegang tot zijn faceprint-database te verkopen aan de meeste particuliere bedrijven in het hele land. Het verbood ook de verkoop aan openbare instanties in Illinois, waaronder de politie, voor vijf jaar. Een afzonderlijke consumentenactie werd op ongebruikelijke voorwaarden beslecht: leden van de groep kregen vooraf een deel van de toekomstige waarde van het bedrijf in plaats van contant geld, omdat Clearview zei dat het geen groot bedrag kon betalen. In 2022 hebben de gegevensbeschermingsautoriteiten van Italië, Griekenland en Frankrijk Clearview elk een boete van 20 miljoen euro opgelegd en het bedrijf bevolen te stoppen met het verwerken van de gegevens van inwoners en deze te verwijderen. De Nederlandse autoriteit legde later een boete op van ruim 30 miljoen euro. De Britse toezichthouder heeft ook een boete opgelegd, die Clearview op jurisdictiegronden heeft aangevochten. Privacytoezichthouders in Canada en Australië vonden de verzameling ervan onrechtmatig. Een veel voorkomende misvatting is dat openbare foto's eerlijk spel zijn. Toezichthouders waren van mening dat gezichtsafdrukken biometrische gegevens zijn, en dat het plaatsen van een foto niet betekent dat je ermee instemt dat deze wordt omgezet in een doorzoekbare identificatie. Een tweede misvatting is dat de boetes het bedrijf moesten sluiten. Clearview heeft de Europese jurisdictie betwist en bedient nog steeds overheidsklanten elders.

Implementatie in de echte wereld

Een politie-onderzoeker uploadt een foto van een beveiligingscamera in een winkel en krijgt links terug naar sociale-mediapagina's waarop gelijkaardig uitziende gezichten te zien zijn. Die aanwijzingen moeten nog worden getoetst aan ander bewijsmateriaal voordat iemand als verdachte kan worden behandeld.

Een inwoner van Illinois wiens openbare Instagram-foto's zijn geschrapt, zou een claim kunnen indienen op grond van BIPA, omdat Illinois schriftelijke toestemming vereist voordat een bedrijf de gezichtsafdruk van een persoon verzamelt.

Een Europese inwoner dient een verzoek om toegang tot gegevens in onder de AVG, vindt zijn afbeeldingen in de database van Clearview en gebruikt het resultaat om een ​​klacht in te dienen bij de nationale gegevensbeschermingsautoriteit, zoals verschillende klagers deden.

Een AI-startup die van plan is openbare profielfoto's te verzamelen om een ​​gezichtsmodel te trainen, moet nu de biometrische toestemmingswetten, de wettelijke basis ervan onder de AVG en de voorwaarden van de platforms controleren, grotendeels vanwege de Clearview-uitspraken.

De toekomst van Clearview AI en gezichtsherkenningsprivacyzaken

Door de Clearview-zaken is biometrisch schrapen een van de duidelijkste rode lijnen in de privacywetgeving geworden. De EU AI Act verbiedt het bouwen van databases voor gezichtsherkenning door het ongericht schrapen van gezichtsbeelden van internet of camerabeelden. Verschillende Amerikaanse staten hebben biometrische privacywetten besproken die vergelijkbaar zijn met BIPA. Er blijven open vragen. Het is onduidelijk hoe toezichthouders kunnen handhaven tegen bedrijven die niet lokaal aanwezig zijn, hoe rechtbanken scraping voor AI-training voor algemene doeleinden zullen behandelen, en of het gebruik van gezichtsonderzoek door de politie zal worden geregeld door speciale statuten of aan aanbestedingsbeslissingen zal worden overgelaten. Er zullen waarschijnlijk nog meer rechtszaken volgen voordat er één vaste regel komt.

Het in de praktijk brengen

Waarom het ertoe doet

  • Risico en veiligheid. Catastrofale en alledaagse schade door AI hangt af van wie de risico's begrijpt en wie kan handelen.
  • Duidelijkere beslissingen. Publieke en professionele geletterdheid bepalen of een krachtig veiligheidsbeleid politiek mogelijk is.
  • Door de hype heen snijden. Duidelijke verklaringen verminderen de kans op hypes, laboratorium-PR en vaag ethisch theater.

Pas op voor

  • Existentieel risico behandelen als sciencefiction, terwijl capaciteiten zich vermenigvuldigen.
  • De veiligheid van oppervlakteproducten verwarren met uitlijning onder hoge autonomie.
  • Hierdoor blijven niet-Engelstalige en niet-deskundige doelgroepen alleen bronnen van lage kwaliteit over.

Volgende stappen

  1. Afzonderlijke risico's voor productschade, misbruik en verlies van controle/verkeerde uitlijning.
  2. Vraag welk bewijs uw kijk op tijdlijnen en ernst zou veranderen.
  3. Geef de voorkeur aan primaire bronnen en concrete evaluaties boven marketingclaims.
  4. Identificeer één actiepad: carrière, beleid, financiering of vaardigheden – niet alleen bewustwording.

Blijf verkennen

Gratis nieuwsbrief

Ontvang de dagelijkse AI-briefing

Drie verifieerde AI-verhalen elke weekdagmorgen, geschreven in eenvoudig Engels. Gratis voor altijd, geen advertenties.

Eén e-mail elke weekdag. Afmelden met één klik. We verkopen of delen je adres nooit.

Test jezelf

Take the Clearview AI and Facial Recognition Privacy Cases quiz

Directe feedback op elke antwoord, en een deelbare certificaat met een verifieerbare ID zodra je een cursus hebt afgerond.

Quiz starten

Ondersteun gratis AI-onderwijs. AI Understanding is een 501(c)(3) non-profit — geen advertenties, geen betaalmuur, nooit. Doe een donatie

Veelgestelde vragen

Wat zijn Clearview AI en gezichtsherkenning-privacyzaken?

Clearview AI is een Amerikaans gezichtsherkenningsbedrijf dat een zoekmachine voor gezichten heeft gebouwd door miljarden foto's van sociale media en andere openbare websites te schrappen en vervolgens de toegang voornamelijk aan politie en overheidsinstanties heeft verkocht. De rechtszaken zijn van belang omdat toezichthouders en rechtbanken op verschillende continenten tot de conclusie zijn gekomen dat het feit dat een foto publiekelijk zichtbaar is, niet betekent dat de biometrische gegevens ervan gratis kunnen worden verzameld. Dat vormde een sjabloon voor hoe de privacywetgeving van toepassing is op AI-trainingsgegevens.

Wat vereist de Illinois Biometric Information Privacy Act (BIPA) voordat een bedrijf biometrische identificatiegegevens verzamelt?

BIPA vereist geïnformeerde schriftelijke toestemming voordat biometrische identificatiegegevens zoals gezichtsafdrukken worden verzameld. Die eis vormde de basis van de rechtszaak van de ACLU tegen Clearview, die gezichten had geschraapt zonder iemand te vragen.

Wat weerhield de ACLU-schikking van 2022 Clearview permanent van het doen?

De permanente beperking had betrekking op de verkoop aan de meeste particuliere bedrijven in de VS. Een afzonderlijke beperking van vijf jaar had betrekking op openbare instanties in Illinois, waaronder de politie.

Welke drie Europese gegevensbeschermingsautoriteiten hebben Clearview elk een boete van 20 miljoen euro opgelegd in 2022?

Italië, Griekenland en Frankrijk hebben in 2022 elk 20 miljoen euro boetes uitgedeeld. De Nederlandse autoriteit heeft later zelf een boete van ruim 30 miljoen euro uitgedeeld.

Waarom beïnvloedt de grootte van de gezichtsgalerij valse overeenkomsten in een systeem als dat van Clearview?

Bij een zoekopdracht wordt de sonde vergeleken met elke invoer. Met miljarden gezichten zijn er meer kansen voor iemand die niet de persoon is die er voldoende op lijkt om hoog te scoren.

Wat levert een query in Clearview-stijl eigenlijk op?

Het systeem retourneert op gelijkenis gerangschikte kandidaten en hun bronlinks. Het zijn onderzoeksaanwijzingen die onafhankelijke verificatie nodig hebben, geen definitieve identificatie.