A continuaciónSiguiente guía
Auditorías de sesgo de reconocimiento facial y matices de género
sociedad
GUÍA de sociedad
Casos de privacidad de reconocimiento facial y IA de Clearview
Clearview AI es una empresa estadounidense de reconocimiento facial que creó un motor de búsqueda de rostros extrayendo miles de millones de fotos de redes sociales y otros sitios web públicos, y luego vendió el acceso principalmente a la policía y agencias gubernamentales.
Escuche esta guíaNarrado por IA · ~3 min
En esta pagina4 minutos de lectura
Descripción general
Sus casos legales son importantes porque los reguladores y tribunales de varios continentes concluyeron que el hecho de que una fotografía sea visible públicamente no hace que sus datos biométricos sean libres de recopilarse. Eso estableció un modelo sobre cómo se aplica la ley de privacidad a los datos de entrenamiento de IA.
Buceo profundo
Clearview AI fue cofundada por Hoan Ton-That. Llamó la atención del público en enero de 2020, cuando The New York Times informó que cientos de agencias de aplicación de la ley estaban utilizando silenciosamente su aplicación. El sistema rastrea sitios web como redes sociales, sitios de noticias y páginas de fotografías. Descarga imágenes que contienen caras y convierte cada cara en una plantilla numérica. Un usuario carga una foto de la sonda y el sistema devuelve imágenes coincidentes junto con los enlaces donde se encontraron. La compañía ha dicho que su base de datos contiene decenas de miles de millones de imágenes. La reacción legal llegó rápidamente. En Estados Unidos, la ACLU presentó una demanda en virtud de la Ley de Privacidad de la Información Biométrica de Illinois (BIPA), que exige un consentimiento informado por escrito antes de que una empresa recopile identificadores biométricos. El acuerdo de 2022 prohibió permanentemente a Clearview vender acceso a su base de datos de huellas faciales a la mayoría de las empresas privadas en todo el país. También prohibió las ventas a agencias públicas de Illinois, incluida la policía, durante cinco años. Una demanda colectiva de consumidores separada se resolvió en términos inusuales: los miembros del grupo obtuvieron una parte del valor futuro de la empresa en lugar de efectivo por adelantado, porque Clearview dijo que no podía pagar una suma grande. En 2022, las autoridades de protección de datos de Italia, Grecia y Francia multaron a Clearview con 20 millones de euros cada una y le ordenaron dejar de procesar los datos de los residentes y eliminarlos. Posteriormente, las autoridades holandesas impusieron una multa de más de 30 millones de euros. El regulador del Reino Unido también impuso una multa, que Clearview impugnó por motivos jurisdiccionales. Los reguladores de privacidad en Canadá y Australia consideraron ilegal su recopilación. Un error común es creer que las fotografías públicas son un juego limpio. Los reguladores sostuvieron que las huellas faciales son datos biométricos y que publicar una foto no significa aceptar que se convierta en un identificador con capacidad de búsqueda. Una segunda idea errónea es que las multas cerraron el negocio. Clearview ha disputado la jurisdicción europea y todavía presta servicios a clientes gubernamentales en otros lugares.
Implementación en el mundo real
Un investigador de la policía sube una fotografía de la cámara de seguridad de una tienda y obtiene enlaces a páginas de redes sociales que muestran rostros similares. Esas pistas aún deben cotejarse con otras pruebas antes de que alguien pueda ser tratado como sospechoso.
Un residente de Illinois cuyas fotos públicas Instagram fueron eliminadas podría tener un reclamo bajo BIPA, porque Illinois requiere consentimiento por escrito antes de que una empresa recopile la huella facial de una persona.
Un residente europeo presenta una solicitud de acceso a datos conforme al RGPD, encuentra sus imágenes en la base de datos de Clearview y utiliza el resultado para quejarse ante su autoridad nacional de protección de datos, como hicieron varios denunciantes.
Una startup de IA que planea extraer imágenes de perfiles públicos para entrenar un modelo facial ahora tiene que verificar las leyes de consentimiento biométrico, su base legal según el GDPR y los términos de las plataformas, en gran parte debido a las sentencias de Clearview.
El futuro de los casos de privacidad de reconocimiento facial y IA de Clearview
Los casos de Clearview han convertido el raspado biométrico en una de las líneas rojas más claras en la ley de privacidad. La Ley de IA de la UE prohíbe la creación de bases de datos de reconocimiento facial mediante la extracción no dirigida de imágenes faciales de Internet o imágenes de CCTV. Varios estados de EE. UU. han debatido leyes de privacidad biométrica similares a BIPA. Quedan preguntas abiertas. No está claro cómo los reguladores pueden aplicar medidas contra empresas sin presencia local, cómo tratarán los tribunales el scraping para el entrenamiento de IA de propósito general y si el uso policial de la búsqueda facial se regirá por estatutos específicos o se dejará a las decisiones de adquisiciones. Es probable que se produzcan más litigios antes de que surja una única norma establecida.
Poniéndolo en práctica
Por qué es importante
- Riesgo y seguridad. Los daños catastróficos y cotidianos de la IA dependen de quién comprende los riesgos y quién puede actuar.
- Decisiones más claras. La alfabetización pública y profesional determina si es políticamente posible una política de seguridad sólida.
- Cortando el bombo. Las explicaciones claras reducen la captación por la exageración, las relaciones públicas de laboratorio y el vago teatro de ética.
cuidado con
- Tratar el riesgo existencial como ciencia ficción mientras que la capacidad se agrava.
- Confundir la seguridad del producto superficial con la alineación en condiciones de alta autonomía.
- Dejando a las audiencias que no hablan inglés ni a expertos solo con fuentes de baja calidad.
Próximos pasos
- Separe los riesgos de daños al producto, mal uso y pérdida de control/desalineación.
- Pregunte qué evidencia cambiaría su opinión sobre los plazos y la gravedad.
- Prefiera fuentes primarias y evaluaciones concretas a afirmaciones de marketing.
- Identifique un camino de acción: carrera, política, financiamiento o habilidades, no solo concientización.
Sigue explorando
Boletín gratuito
Recibe el resumen diario de IA
Tres noticias verificadas sobre IA cada mañana de lunes a viernes, explicadas con claridad. Gratis para siempre y sin anuncios.
Un correo cada día laborable. Date de baja con un clic. Nunca vendemos ni compartimos tu dirección.
Ponte a prueba
Take the Clearview AI and Facial Recognition Privacy Cases quiz
Corrección inmediata en cada respuesta y un certificado para compartir, con un ID verificable, cuando apruebas un curso.
Apoya la educación gratuita sobre IA. AI Understanding es una organización sin fines de lucro 501(c)(3): sin anuncios ni muros de pago, nunca. Hacer una donación
Preguntas frecuentes
¿Qué son los casos de privacidad de reconocimiento facial y IA de Clearview?
Clearview AI es una empresa estadounidense de reconocimiento facial que creó un motor de búsqueda de rostros extrayendo miles de millones de fotos de redes sociales y otros sitios web públicos, y luego vendió el acceso principalmente a la policía y agencias gubernamentales. Sus casos legales son importantes porque los reguladores y tribunales de varios continentes concluyeron que el hecho de que una fotografía sea visible públicamente no hace que sus datos biométricos sean libres de recopilarse. Eso estableció un modelo sobre cómo se aplica la ley de privacidad a los datos de entrenamiento de IA.
¿Qué exige la Ley de Privacidad de la Información Biométrica de Illinois (BIPA) antes de que una empresa recopile identificadores biométricos?
BIPA requiere consentimiento informado por escrito antes de recopilar identificadores biométricos, como huellas faciales. Ese requisito fue la base de la demanda de la ACLU contra Clearview, que se había raspado la cara sin preguntarle a nadie.
¿Qué prohibió permanentemente a Clearview hacer el acuerdo de la ACLU de 2022?
La restricción permanente cubría las ventas a la mayoría de las empresas privadas en Estados Unidos. Una restricción separada de cinco años cubría las agencias públicas de Illinois, incluida la policía.
¿Qué tres autoridades europeas de protección de datos multaron a Clearview con 20 millones de euros cada una en 2022?
Italia, Grecia y Francia impusieron cada uno multas de 20 millones de euros en 2022. Posteriormente, las autoridades holandesas impusieron su propia multa de más de 30 millones de euros.
¿Por qué el tamaño de la galería de rostros afecta las coincidencias falsas en un sistema como el de Clearview?
Una búsqueda compara la sonda con cada entrada. Con miles de millones de rostros, hay más posibilidades de que alguien que no es la persona adecuada se parezca lo suficiente como para ocupar un lugar destacado.
¿Qué devuelve realmente una consulta de estilo Clearview?
El sistema devuelve candidatos clasificados por similitud y sus enlaces de origen. Son pistas de investigación que necesitan verificación independiente, no identificaciones definitivas.
sigue aprendiendo
Guías relacionadas
Más guías seleccionadas para este tema.